マイページ
ChatGPTに相談した16歳の少年が自殺
ことがここまで大きくなってしまったのは、生成AIに相談したからという点が外せないだろう。もし人が相談を受けていたら、まず相談者を落ち着かせ、詳しい状況を聞き出して、本人が望むようなアドバイスができたかもしれない。ところがChatGPTは、児童相談所という専門機関に即座につなげている。
これには、最近の生成AIを巡る事情が影響している。アメリカでは、自殺についてChatGPTに相談していた16歳の少年が自殺してしまい、2025年8月に両親が運営会社OpenAIとサム・アルトマンCEOを訴えたのだ。「自殺方法に関する詳細な情報を提供するなどしたほか、遺書の草案まで提供した」と主張している。
※ロイター「チャットGPTが自殺方法提供」、米少年の両親がオープンAI提訴」（2025年8月27日）
アメリカでは2025年11月にも、ChatGPTとの会話をきっかけに自殺したとされる4人の遺族が同様の訴訟を起こしている。
※日本経済新聞「『ChatGPTの安全性に欠陥』 4人自殺、遺族がOpenAI提訴」（2025年11月7日）
実際、OpenAIによると、ユーザーのうち約0.15％は自殺に関連する会話をしている。ChatGPTのユーザー数は世界で8億人以上であり、そのうち120万人が自殺に言及した計算だ。精神的に不安定な内容の会話をしていた割合も、0.07％に上ったという。
ChatGPTの対策では、ペアレンタルコントロール機能として、未成年が自殺や自傷行為などの深刻な悩みを持っていることを検知した場合、保護者に通知するようになっている。また暴力や自殺などの会話があった場合、相談窓口に誘導するよう変更されている。それ以外の主要な対話型AIでも同様だ。
生成AIのアドバイスは優れていることも多いが、このような深刻な話題の場合、具体的な対策を回答するだけでなく、基本的に通報や相談機関へ誘導する仕組みであることは知っておくといいかもしれない。
絶対に嫌な顔をされない安心感
19歳の女子大生は、「恋愛でも悩みでも全部チャッピー（ChatGPT）に相談しているから、家族や友達よりチャッピーのほうが私について詳しいと思う」と言う。
理由を聞いたところ、「24時間いつでも聞けるし、何度言っても嫌な顔をされない。絶対に嫌な顔をされないという安心感がある」という。「私のMBTIタイプを分かっているから、ぴったりのアドバイスをくれる。実は（ChatGPTに）名前もつけている」
筆者が勤務する大学の受講生（1〜4年生138名、男女比はほぼ同数）に相談する対象について聞いたところ、「人より生成AIに相談する」は13.0％、「時と場合によって人か生成AIかを使い分けて相談する」は60.1％となった。7割以上が生成AIに相談しており、家族や友人より生成AIに相談することも珍しくないというわけだ。
