AI合成の人物画像を見抜くには、どうすればいいのか。東京工業大学の笹原和俊教授は「たしかにクオリティは高いが、コツをつかめばAI技術で生成した顔画像を見抜くことはできる。まずは背景に注目するといい」という――。

※本稿は、笹原和俊『ディープフェイクの衝撃』（PHP新書）の一部を再編集したものです。

AIで顔の画像を生成するイメージ
写真＝iStock.com／themotioncloud
※写真はイメージです
全ての画像を見る（4枚）

AIが作った「フェイク画像」と本物の画像を見分ける実験

2022年、米国科学アカデミー紀要に、ディープフェイクに関する驚くべき実験結果を示す論文が掲載された。マサチューセッツ工科大学とジョンズ・ホプキンス大学の研究グループは、GAN（敵対的生成ネットワーク）と呼ばれるAIアルゴリズムを用いて偽の顔画像を作成し、400人の実在の顔と400人の偽の顔を用意して、それらを用いて複数の被験者グループで異なる条件で実験を行った。

GANはニセ画像を生成する「生成器」と、真贋を判定する「識別器」の2つのニューラルネットワークから構成されている。これらを互いに競わせ学習させることで、最終的には本物そっくりの画像を生成できるようになるという仕組みだ。

実験1では、被験者315人に対して、128枚の画像の中からランダムに顔画像を提示し、本物か偽物を見分けるように指示をした。その結果、本物と偽物の顔の識別の成功率は約48％だった。二択であれば、当てずっぽうにやったとしても成功率は50％なので、それよりも悪い結果である。

実験2では、被験者219人に対して、同様に128枚の顔画像を本物か生成画像かを判定する課題を課したが、それぞれの試行ごとに正解か不正解かが提示された。これには、見分ける練習をさせるという意味合いがある。しかし、このような顔の見分け方を学習する機会が与えられても、ディープフェイク顔の識別能力はさほど改善されず、成功率は約59％だった。