Xの｢ニュースの見出し｣を信じてはいけない…生成AIの"まさかのウソ"に思考回路が乗っ取られるリスク ｢ぼっち･ざ･ろっく!｣炎上…大の大人が信じてしまった実例

写真＝iStock.com／mapo

※写真はイメージです

全ての画像を見る（5枚）

生成AIが作る「ニュースの見出し」の落とし穴

ChatGPTやGoogleのGeminiなど、生成AIの進歩がめざましい。だが一方で、弊害も目につくようになってきた。2025年10月4日の自民党総裁選でもそれを実感させられた。

気をつけるべき落とし穴の一つが「生成AIによるニュース」の正確性だ。SNSのトレンド欄にはニュースやトレンドワードが表示されているが、Xでは生成AIで見出しと本文がつくられている。

そして、AIはしばしば間違えるのだ。誤った数値や固有名詞が入ったり、二者が逆になったり、異なる2つの話題が混ざったりする。報道機関のニュースを確認すれば間違いに気づけるが、日々忙しく過ごす中、チラッと目にして「へえ、そうなのか」という印象だけを抱き、そのまま記憶してしまうこともあるだろう。

X公式アプリの表示

新外務大臣へのネット評価が、事実とは真逆に

例えば、総裁選後のXのこのニュース。

最後の「保守層から過去の外交姿勢への批判が……」はおそらく現職の岩屋毅外務大臣のことだろう。茂木氏はXでは保守層からの評価は高い。一方で、総裁選期間中、こども食堂で自身の誕生日祝いをしてもらう、スーパーにハイヤーで乗りつけるなどのパフォーマンスに「市民感覚がわかっていない」と批判が寄せられていた。AIが、次期大臣と現職への評価を混ぜて文章を生成してしまっているのだ。

XはGrokというAIを採用しており、ニュースの下には「このストーリーは、Xのポストの要約であり、時間の経過とともに新しくなります。Grokは間違えることがあるため、アウトプットが事実かどうかを確認してください」という注意書きがある。

人間のようにニュースを「読んで、話をまとめている」のではなく、「リアルタイムでその瞬間に多数言及されているトピックを、組み合わせてテキストを生成している」のだ。だが「間違えることがある」という注意書きはグレーの小さな文字で、目立たない。

もう1例、見てみよう。