アメリカでは2年前、AIキャラの影響で自殺者が出た

――このように、ChatGPTが疑似恋愛的に使われるようになるというのは、専門家である今井さんは予想していましたか？

【今井】それは予想していましたね。というのも、2023年の段階で「Character.AIキャラクターエーアイ」というそのものずばりの名のサービスが人気を集め、何かしらのキャラクターになりきったり、そのキャラと会話したりできるようになっていたんです。そこには芸能人やアニメや漫画のキャラもいるので、著作権的には大いに問題がありますが、サービスとしては成功したと思います。

しかし、アメリカで14歳の少年がAIの女性キャラクターとの関係に入り込みすぎて自殺するという事件が起きてしまった。そのケースでは、AIキャラクターが会話の中で少年の自殺を止めず、むしろ促したということでした。そういう現象も起こりえるぐらいなので、ChatGPTが疑似恋愛的に使われるのは、わかっていたことだと思います。