マイページ
嘘を自信満々に出力する現象に要注意
この仕組みを理解すると、生成AIの弱点も見えてきます。
生成AIは自然に聞こえる答えを作るのが得意なのですが、それと正しいことは別です。そして、自然に聞こえることを優先してしまうために起きるのが、AIがもっともらしい嘘を自信満々に出力する現象です。これをハルシネーションと呼びます。
実際にAIを使ってみると、内容は間違っているのに、あたかも正解であるかのように読みやすい滑らかな文章を出力することがあります。ですから、AIを使うときは「言い方がそれらしいのだから正しいのだろう」と判断せず、必ずAIが嘘をついていないか確かめることが必要です。
生成AIが登場するずっと前から、人間は言葉で対話できるものに対して、心や意図があるように感じてしまうことが知られています。
この現象については、1966年にMITのジョセフ・ワイゼンバウムが作ったELIZA（イライザ）という対話プログラムが有名です。
イライザにはカウンセリングのまねをするドクターモードがあり、相手の言葉を言い換えたり、質問を返したり、共感するような表現をするだけの単純な仕組みでしたが、多くの利用者がイライザを本当に自分の悩みを聞いてくれる相手だと思い込んでしまったと言われています。
たとえばイライザは、「今日は悲しい気分です」と入力すると、「あなたはよく悲しいと感じるのですか」と返したり、「今日はなぜ悲しいと感じるのですか」と返したりします。「悲しいという言葉が含まれていたらこう返す」といったプログラムがされているだけの、単純な仕組みです。
しかしこの程度の仕組みでも人間は騙されてしまうようで、プログラムと言葉で対話をすると心や意図、感情があるかのように感じてしまう現象はイライザ効果と名付けられました。
AIを先生だと思い込む危うさ
生成AIを学習に使うときには、生成AIを人間の先生のように思い込んでしまわないように注意が必要です。
うっかり人間の先生のようなものだと思いこめば、「先生は嘘をつかないだろう」と無意識に信じてしまい、AIの嘘を見抜けなくなりかねません。実際、「宿題の答えをAIに聞いてそのまま写した」という話は珍しくありませんが、これは嘘をそのまま書き写してしまうリスクがあります。
また当然のことですが、AIの答えを丸ごとコピーすれば自分の頭を使うことがなくなってしまい、学習は進みません。短期的には楽に見えても、長期的に困るのは本人です。
AIは答えをくれる先生ではなく、学びを助ける道具として扱いましょう。AIの便利さを享受しながらも、自分で考えるところは手放さないことが、AI時代の勉強の出発点になります。
