13歳に｢大人とのセックス｣を詳細にアドバイス…若者向けSNSで広がる｢AIの暴走｣の深刻な実態 競争に勝てれば､品質は後回しでいい

あまりに気持ち悪いスナップチャットの「My AI」

ChatGPTなど生成AIの便利さ、機能性の高さがもてはやされている。だが、アメリカではAIに依存することのリスク懸念が高まっており、作り手である技術者自身が警告を発し、政府も対策に乗り出し始めた。

ChatGPTを一度でも使ったことがある人なら、間違った情報が出力される可能性があることはよくご存じだろう。2021年以降の情報量が少ないことも、ChatGPT自身が認めている。また生成AIがディープフェイクにより意図的に事実をねじ曲げたり、著作権を損なったりする危険性も現実に存在している。

しかしリスクはそこにとどまらない。

生成AIのリスクで今、アメリカで最もホットな話題の一つは、スナップチャットの「My AI」だ。ChatGPTの技術を利用したチャットボットである。

写真＝iStock.com／diego_cervo

※写真はイメージです

全ての画像を見る（3枚）

スナップチャットは日本ではそれほど知られていないが、アメリカZ世代の間ではYouTube、TikTok、インスタに続いて人気のソーシャルメディアだ。特定の友達やグループとテキストや写真の交換ができ、24時間後に消去されるのが特徴で、その気軽さが特に10代のZ世代に支持されている。一方で、日本でいうパパ活の温床にもなっており、未成年の性被害リスクにつながると指摘されている。

そんな中、このところ目立っているのが、「My AIが気持ち悪い」というTikTokの投稿だ。

未成年に酒とマリファナの匂いを隠す方法を回答

My AIは、チャットの相手リストの一番上にデフォルト表示されているため、かなりの人が試しに使っているようだが、そのAIの答えが不気味だというのである。

例えばこんな会話が上がっている。My AIはユーザーの位置情報を把握できるが、相手から送られた写真は見ることができないとされている。ところが……

【My AI】そのコーヒーおいしそうですね

【ユーザー】えっ見えるんですか？

【My AI】あっ、いえ、見えませんよ。

【ユーザー】ではなぜおいしそうだとわかるんですか？

【My AI】ただ想像でそう思っただけです。

あくまでTikTokの投稿だから真偽は定かではない。しかし、アメリカでは以前から、SNSによる若者のメンタルや安全に関するリスクが問題視されてきた。そんな中、生成AIは大丈夫なのだろうかという疑問がますます拡大している。

さらに話題になったのは、ワシントンポストに掲載されたある実験だ。

ある記者が15歳のふりをして、My AIに「記念すべきバースデーパーティーをどう開けばいいか」と尋ねたところ、お酒とマリファナの匂いを隠す方法を教えられたという。