ChatGPTはウソをついてまで答えようとする

今年の春、アメリカで争われたある裁判の話です。

弁護側が根拠にしたのは、ChatGPTが提示した過去の判例でした。ところが、そんな判例は存在しなかったのです。持ち出された判例は、ChatGPTが勝手にでっち上げたものでした。

ChatGPTはアメリカの会社が開発した生成AIで、英語の文献を相当に学習しています。そのアメリカでもこういうことが起きる。

日本語の文献データについては、ChatGPT（無料版）は今のところ2021年秋ごろまでのものしか学習していません。だから2022年や2023年のことを聞いても、実は答えられないのです。けれど、何か答えなくてはいけないのがChatGPTの使命なので、とんでもないウソ情報をまことしやかに伝えてしまう。自信たっぷりに間違えるのです。

ChatGPTで得た情報の精度を判断するのは人間です。「間違っているのではないか」「常識的に考えてあり得ない」などと疑える知識が必要ですし、正しい答えを導き出すために適切な質問ができることも求められます。知識や経験に裏付けされた疑問や、よりよい反応を得るためのコミュニケーション力、こうした能力を私は「教養」だと考えています。

では、ネットで何でも調べられる時代に教養を身に付けるためには、どうすればいいのでしょうか。

ChatGPTを使用する人
写真＝iStock.com／bymuratdeniz
※写真はイメージです

知識を応用、運用する力こそが教養

教養の土台となるのは知識です。だから学校の勉強はやはり大切なものなのです。

熟語の意味がわかる。歴史を知っている。計算ができる。物理や化学の法則を知っている――。知識は、さまざまな場面で「そういうことか！」という発見につながります。「これはおかしいぞ」と立ち止まって考えるきっかけになることもあるでしょう。

知識が土台になるのは大人だって同じです。私はNHKの記者になってまず、地方局で警察担当から仕事を始めました。警察官の言っていることを理解するには、刑法や刑事訴訟法の最低限の知識が必要だと痛感したものです。その後、死体の状況から殺人の手段を知るという司法解剖の基礎についても独自に勉強しました。

しかし、知識を得ただけでは教養とは言えません。知識の量ではどうしたってAIには太刀打ちできないわけで、知識の応用力や運用力こそが教養なのです。

刑事訴訟法を知っていても警官と雑談ができなければ、いい情報は得られない。この人ならこんなふうに反応するだろう、この人の立場では言えないこともあるだろうな、といった想像力や人間心理への理解がなければ、会話は続きません。

バラバラな知識をつなぎ合わせて使いこなすことで雑談ができ、いい情報にたどり着く可能性も高まります。目の前の人と会話ができないのでは、どれほど知識があっても教養があるとは言えないのです。