AIがウソをなくせない根本的な仕組み

――今井さんの著書『生成AIで世界はこう変わる』によりますと、ChatGPTのような「言語モデル」のAIがどうやってユーザーの入力するテキストなどの情報を処理しているかというと、まず入力された言葉から「穴埋め」クイズのように、次の言葉を導き出していると…。

〈文章1：ユーザーの入力例〉
このりんごは（　）

〈（カッコ内）に入る言葉の選択肢〉
①アインシュタイン［正解の確率 2％］
②黄色い［正解の確率 5％］
③おいしい［正解の確率 90％］ →AIはこれを選んで回答する
④行く［正解の確率 2％］

【今井】そうです。ChatGPTなどの生成AIは、内部になんらかの文章データを保持して、それを組み合わせているわけではないので、それが柔軟な文章生成を可能にしているとともに、「ウソをつく」原因にもなっています。