｢ハワイ山火事の原因はアメリカの気象兵器｣とんでもないデマを中国共産党がSNSでばらまく怖すぎる理由 アメリカ人になりすまし､AIニセ画像を拡散する

「AIが生成した架空の人物の映像を国家ぐるみで拡散」

AIを用いた偽情報は、動画の形でも広がっている。ソーシャルメディア分析会社の米グラフィカは、親中派の政治スパム集団「Spamouflage（スパムフラージュ。スパムとカムフラージュの造語）」が製作した偽のニュース番組をネット上で発見した。グラフィカは、「AIが生成した架空の人物の映像を国家ぐるみで拡散していることが確認された、初の事例」であるとしている。

動画では、スーツを着たニュースキャスター風の男性および女性がカメラに向かい、中国共産党に与する情報を伝えている。ある動画では、米政府が銃暴力に関して「偽善的かつ空虚なレトリック」を繰り返していると批判。別の動画では、世界経済の回復のために中国とアメリカの協力が不可欠であると主張していた。画面隅に番組ロゴを表示し、実在のニュース番組であるかのように装っている。

長さは最大でも3分ほどで、映像は架空のニュースキャスターのAI動画に合成音声を重ねたものだ。背景にはストック映像などを使用していた。質は非常に低く、「粗雑であり、スパム的な性格が強い」とグラフィカは論じている。再生回数が最大でも300回を割り込んでいることから、現時点では説得力のあるコンテンツ作りに苦労しているとの見方を示した。

写真＝iStock.com／Gwengoat

※写真はイメージです

事実とフィクションの境界線が曖昧になる

一方、ニューヨーク・タイムズ紙は本件を取り上げ、こうしたディープフェイク動画が「情報戦の新たな章を開くものである」と危険性を指摘している。製作に用いられたソフトウエアは、本来は従業員向けのトレーニング動画の作成などを想定した市販のもので、月額30ドル（約4500円）程度で利用できる。

同紙は、容易に利用できるこのようなソフトウエアが「事実とフィクションの境界線を曖昧にし、まったく事実に基づかない人物を作り上げることもできる」と述べ、悪用に懸念を示している。

こうしたAIによる偽情報とは別に、Microsoftの報告書は、中国政府は技術を進化させながら、より多くの言語・プラットフォームで影響力を高める施策を続けてきたと指摘する。たとえば、主要な西側諸国のプラットフォームに独立したインフルエンサーを装った230人を超える国営メディアの従業員・関連会社を配置し、中国共産党に親和的な情報を拡散している。

インフルエンサーは中国国際放送（CRI）や他の中国国営メディア組織によって採用、訓練、昇進、資金提供を受け、地域に合わせた中国共産党のプロパガンダを巧みに広めている。実際に、世界中の視聴者と結びつき、合わせて少なくとも1億300万人のフォロワーを抱え、情報はプラットフォームを通じて40の言語で発信されているという。