AIがウソをなくせない根本的な仕組み

――今井さんの著書『生成AIで世界はこう変わる』によりますと、ChatGPTのような「言語モデル」のAIがどうやってユーザーの入力するテキストなどの情報を処理しているかというと、まず入力された言葉から「穴埋め」クイズのように、次の言葉を導き出していると…。

〈文章1：ユーザーの入力例〉
このりんごは（　）

〈（カッコ内）に入る言葉の選択肢〉
①アインシュタイン［正解の確率 2％］
②黄色い［正解の確率 5％］
③おいしい［正解の確率 90％］ →AIはこれを選んで回答する
④行く［正解の確率 2％］

【今井】そうです。ChatGPTなどの生成AIは、内部になんらかの文章データを保持して、それを組み合わせているわけではないので、それが柔軟な文章生成を可能にしているとともに、「ウソをつく」原因にもなっています。

基本的には単語を1つ埋めて、次の単語を1つ埋めてという、単語を鎖のようにつなげていく方式を取っているんですね。この方式だと、全文章の後半の出力は最初に自分が出力した単語に影響を受けてしまうので、どんどん間違いが蓄積してしまうんです。