マイページ
「腐ったレモン」ばかりのSNS
レモンの皮は分厚いため、中身が腐っていても買い手側は判別ができない。が、売り手側は腐っているかどうかを知っている。
このとき、買い手側は腐ったレモンを掴まされたときのリスクを考え、レモンに高い金額を払わなくなる。いきおい、高いレモンは売れなくなるため、良質で高価なレモンを供給する業者は市場から撤退を余儀なくされ、腐ったレモンを売る悪徳業者ばかりが残ってしまう。
買い手側と売り手側に情報の非対称性があるとき、粗悪品が良品を駆逐することがあるというわけだ。
生成AIによる偽ユーザーが跋扈し始めたSNSも、発信する側はそれが腐っている（偽物）と知っているのに、受け手には分からないという意味では同じである。今回の件は偽装工作が杜撰だったので露見したが、用意周到に準備されたら、そうそう偽物かどうか（腐っているかどうか）は分からないだろう。
ただし、普通の市場とSNSとの間には決定的な違いがある。普通の市場に腐ったレモンばかりが並んでいれば、客は来なくなり市場は縮小する。ところがSNSでは、レモンが腐っていてもかまわない。それどころか、ある意味では腐っているほど都合がよいとさえいえる。強烈な腐敗臭、すなわちおぞましい投稿が注目を集めれば、それが最終的にはプラットフォーマーに利益をもたらすからだ。
今後とも同様のケースは増える
しかも、こうした偽人格をSNSへ参入させるための障壁は、生成AIの進歩によって急速に下がっている。顔や経歴だけでなく、日々の投稿に添える画像、動画まで容易に作ることができるうえ、一人のユーザーが職業も人生経験も言葉遣いも異なる複数の人格を同時に稼働させることも難しくない。
そこで得た注目を金に換えるのか、承認欲求を満たすために使うのか、それとも政治的な影響力へ換えるのかはユーザーによって異なるだろうが、いずれにせよ、偽の人格によって注目を獲得するための費用は、今後ますます下がっていく。
それに対し、失敗したときの損失は小さい。もちろん、詐欺や名誉毀損などに及べば話は別だが、架空の人格を作って投稿していたことが発覚しても、多くの場合はアカウントや収益化の停止にとどまる。アカウントを失ったところで、顔や名前、経歴を変えた別の人格を作ればよいだけだ。
成功すれば金や承認、政治的影響力を得られる一方、失敗しても失うものはほとんどない。こうした状況を悪用する人間が、これから増えないと考える方が不自然である。
実際、その先例と呼ぶべき出来事が、すでに米国などで起きている。2026年4月、WIRED.jpは、インド北部出身の22歳の医学生を名乗るサムが、生成AIで「エミリー・ハート」という架空の若い女性を作ったという事例を報じた。
