美術コンテストに｢AIが自動生成した画像｣とは名乗らずに出品…あっさり優勝したクリエイターが語ったこと 人の心をハックするディープフェイクの脅威

※本稿は、笹原和俊『ディープフェイクの衝撃』（PHP新書）の一部を再編集したものです。

写真＝iStock.com／ArtemisDiana

※写真はイメージです

全ての画像を見る（4枚）

「ポルノ動画」も「大統領演説」も自由自在に作れる

想像してみてほしい。自分が出演しているとしか思えないリアルなポルノ動画がインターネット上に拡散し、二度と消せない世界を。スマートフォンのアプリで、彼かの国の大統領の発言を自在に捏造ねつぞうすることができ、誤認から核のボタンが押されかねない世界を。

これらの事態が起こる確率はゼロではない。そこに深く関わる技術が「ディープフェイク（Deepfake）」だ。

ディープフェイクとは、人工知能（AI）の技術を用いて合成された、本物と見分けがつかないほどリアルな人物などの画像、音声、映像やそれらを作る技術のことである。この技術を用いると、どんな人物に対しても、実際には言っていないことを言ったように加工したり、やっていないことをやったかのように捏造したりすることができる。

だれでも「捏造」や「創造」ができるようになった

ディープラーニング（深層学習）という機械学習の手法の発展と、利用できるデータが爆発的に増大したことによって、本物か偽物かの見分けがつかないメディアを合成することが可能になった。「合成」というと中立的な響きだが、その行為の背後に悪意があれば「捏造」だし、アートやものづくりの新しい表現方法として使えば「創造」ということになる。

数年前まで、ディープフェイクは専門的な知識と技術、大量のデータと高性能なコンピュータがなければ作ることは困難だった。しかし、簡便なツールやサービスが誕生し、誰もがたやすく安価に作成できるような時代に突入した。

ディープフェイクは何を可能にし、それが普及した社会では何が起こるのだろうか。私たちはそのことを真剣に考える時期に来ている。2017年に登場したディープフェイクの技術は、その後の数年で飛躍的な発展を遂げ、想像もしなかったような使用例が次々と登場している。それによって新たな社会問題も起きている。