ディープフェイク攻撃で金銭被害

DeepTrace社の調査結果によると、2020年6月にネット上で確認されたディープフェイク動画は約4万9000件あり、18年12月の約8000件から6倍以上に大幅増加している。

映像が悪用された分野はエンターテインメント業界が60％以上ともっとも多く、96％がポルノ動画に合成された。国別では、米国が半数を占め、英国（10.9％）、韓国（9.6％）、インド（5％）、日本（4％）と続く。

政治系のディープフェイクは4％で割合こそ少ないが、悪用によって騒動になった例も少なくない。たとえばマレーシアでは2019年に、閣僚が違法の同性愛行為をしているフェイク動画を拡散されてしまった。動画の内容によっては信用を失墜させたり、冤罪を着せたり、株価を操作したりすることもできてしまうのだ。

ディープフェイク攻撃によって、金銭的被害も出ている。2019年3月、英国のエネルギー会社の最高経営責任者（CEO）が、ドイツの親会社のCEOからの電話による指示でハンガリーの企業口座に22万ユーロ（約2600万円）を送金した。

ところが、これはCEOではなく、ディープフェイクボイスともいうべき合成された声による犯罪者からの指示だったというわけだ。

ディープフェイク動画を作成する技術は、映画撮影などにも活用されている。しかし残念ながら、このように犯罪などに多く利用されてしまっているのが現状だ。

誰でもアプリで作成できる手軽さ

ディープフェイク動画は誰でも簡単に作れるようになっている。一般人でも専用のソフトウエアを使えば簡単に作成できる。4～6時間程度あれば、一本の動画が作成できてしまうのだ。手軽に作れるようになったことで、近年その数は急増している。

顔写真1枚でディープフェイク動画を作れるアプリもある。2019年に登場したディープフェイク動画が作れるアプリ「ZAO」は、9月に中国向けApp Storeで無料アプリの人気ランキング1位になった。

同アプリのプライバシーポリシーは「ユーザーが作成したすべてのコンテンツに対して、開発者が権利を保有する」となっていた。そこで、「作成されたディープフェイク動画が同意なしに使用される可能性がある」と批判が集まり、開発会社がポリシーを変更する騒ぎとなった。

日本でも「FakeApp」というアプリが人気となったが、やはりパソコンで映画などの動画に自分の顔を当てはめた映像を作ることが可能だ。ばらまかれたときの被害は大きいにもかかわらず、誰でも簡単に作れてしまうのだ。