マイページ
偽情報だけでなく拡散用の偽アカウントも
たとえば、自民党関係者を装う架空の人物だけでなく、後援会や地元メディアを装う複数のアカウントまでもが生成AIで作られ、数カ月にわたって活動していたらどうだろうか。
その人物が「国益にかなう沖縄をつくる」という画像を投稿し、偽の後援会や地元メディアが好意的に反応をすれば、自ずと真実味を帯びてくるはずだ。たとえ自民党が関与を否定しても、何が真実なのかを見分けるのは容易ではないだろう。
なにもこれは、単なる絵空事の話ではない。
2024年9月4日、米司法省は、ロシア政府主導とされる情報工作「ドッペルゲンガー」に使われた32のインターネット・ドメインの差し押さえを発表した。
この工作は、2024年米大統領選を含む各国の選挙や世論へ影響を与えることを目的とし、ワシントン・ポストなどの報道機関に似せた偽サイト、米国人などを装うSNSアカウント、AIで作成した広告などを利用していた。偽情報だけでなく、それを本物に見せる「情報源」まで偽造していたのである。
この事例が示すように、現代の情報工作は偽情報の拡散にとどまらない。発信者、報道機関、支持者まで偽造することで、「情報」だけでなく「情報が本物に見える環境」を丸ごと作っているのである。
認知戦の黒幕は誰なのか
そして、いったん情報が広がれば、政党関係者、指示を受けていない支持者、収益を求めるインフルエンサー、社会の分断を狙う外国勢力まで、ばらばらの意図を持って物語の形成に加わっていく。
候補者を勝たせるため、広告収入を得るため、社会不信を広げるためと目的は異なっても、結果として、いずれもインプレッションを増やす方向に作用する。そのうえ、生成AIが画像、動画、文章の量産を可能にするため、物語の作成と拡散を加速させてしまう。
それでは、こうして生まれていく物語は、果たして誰が作ったのだろうか。最初にある意図をもってデマを流した者だろうか。それとも、それを信じて拡散した者だろうか。はたまた、便乗して煽るだけ煽ったインフルエンサーなのだろうか。
その答えは、誰でもあり、誰でもないとしか言いようがない。たとえ発端となる情報に作者がいたとしても、その後に継ぎ接ぎされていった物語全体には、ある固有の作者などいるはずがない。ばらばらの意図を持つ人間、生成AIの出力、アルゴリズムの選択などが混ざり合い、誰にも制御できないまま成長していったのだ。いわばそれは、作者が混在したキメラだといってよい。
認知戦の渦中で、物語全体の真相や黒幕を見極めようとすることは、いるはずのない一人の作者を探し続ける行為に等しい。たまさか、ある時点で物語を主導していた者を発見しても、たちまち別の作者たちが物語を作り変えてしまうだろう。国家が認知戦に備えるのは至極当然だが、私たち一人ひとりが黒幕を捜索しても仕方がない。
