戦場は「注意→親密さ」へ

テクノロジーのおかげで情報を広めるのがかつてないほど簡単になるのにつれ、人間の注意は稀少な資源となり、その結果、注意を惹こうとする競争が起こり、有害な情報の洪水につながった。だが戦線は今、注意から親密さへと移り変わっている。新しい生成AIは、文書や画像や動画を作り出せるだけではなく、人間のふりをして私たちと直接会話を交わすこともできる。

過去20年間、アルゴリズムは会話とコンテンツを操作することによって注意を惹こうと、相争ってきた。特に、ユーザーエンゲージメントを最大化する任務を与えられたアルゴリズムは、厖大な数の人間を実験台にして試しているうちに、人間の脳の中にある強欲や憎しみや恐れのボタンを押せば、その人の注意を惹き、画面に釘付けにできることを発見した。そして、そのようなコンテンツを意図的に推奨し始めた。

だがアルゴリズムは、自力でそうしたコンテンツを作り出したり、親密な会話を直接交わしたりする能力は限られていた。ところが今、OpenAI社のGPT-4のような生成AIの登場によって、状況は変わりつつある。