「わかりません」と言わないChatGPTは怪しい

文章作成・校正に限ればChatGPTの実力、そしてそのコスパはすさまじい。一方、ChatGPTは「事実」に関してはかなり怪しい。実際、例えば「慶應ビジネススクールの清水勝彦ってどんな人ですか?」と聞くと、え? といった答えが返ってくる。経歴を聞くと全く間違った情報を返してきたし(例えば、スタンフォードの博士をたった2年で取得したことになっていた)、これは他の先生についても同じだった。

実際ChatGPTは「わかりません」とはまず言わないという(聞き手側の質問が曖昧過ぎてわかりませんというのはあるにしても)。研究者の間ではAIが十分な情報がなくても答えを作り上げることを「hullusination=幻覚」「答えを迫られた子供のよう」と言われていると最近のウォール・ストリートジャーナルは報じている。情報と事実を調べることについては普通のGoogle検索のほうがソースを明示してくれる、つまり聞き手の判断の余地があるという意味でもはるかに正しくかつ有効である。「政府が決めてくれない」「トップが示してくれない」と指示待ちに慣れて判断力を失いつつある人々は特に注意が必要と思われる。

OpenAI公式サイトより
OpenAI公式サイトより
ChatGPTについて懸念される点
【1】間違った情報でも正しいものとして示す
【2】質問したときに「わかりません」と言わない
【3】十分な情報がなくても答えを作り上げる
【4】情報(答え)のソースを明示しない

画期的な技術だが過大評価も過度に恐れる必要もない

私がEmailに初めて触ったのはMBA留学中の1992年、30年前であり、自分でモデムを買ってインターネットをやりだしたのが博士課程の1996年だった。「ダイヤルアップ」と言われる電話回線を使用したもので、画像などをダウンロードしようものなら分の単位がかかったし、それを見ていたディスプレーもおそらく今の人たちは見たことないであろうブラウン管のモニターだった。それがあれよあれよとハイスピードになり、モニターはフラットになり、いまはPCはいらない、スマホで十分という時代である。

こうした技術進化には馬車と自動車が例えに挙がることが多い。おそらく馬車関係の人々は失業、そしてその後の生活におののいたであろう。しかし、振り返ってみれば何でもない。新しい仕事がどんどん生まれ、むしろ生活はよくなっている。ChatGPTも同じようなことだろうと思う。

その意味で、ChatGPTを過大評価して大騒ぎする必要はないと思うし、過小評価あるいは進化を妨げようとするのもおかしい。要はうまく使えばよいのである。ただ、そこで忘れられがちなのは、作業としての勉強や仕事ではなく、そもそもの「目的」「価値」は何であったかをもう一度真摯しんしに見直し、自分の勉強や仕事への姿勢に正直に向き合うことではないかと思われる。

【関連記事】
グーグル幹部は非常事態を宣言した…ネット検索を根本から変える「ChatGPT」の恐るべき可能性
専門医なのに時給1000円で働かせ放題…大学病院で「勤務医の長時間労働」がなくならない根本原因
アメリカでは保険外交員がどんどん失職している…ついに始まった「AI失業」の恐ろしいスピード
街中のiPhoneが勝手に悪用されている…最終的に殺人事件にまで発展した「AirTagストーカー」の恐怖
江戸時代の日本人は決して幸福ではなかった…明治維新を批判する人が誤解している「江戸時代の10大問題」