ChatGPTの無批判な利用は非常に危険

文部科学省が2023年7月に発表した生成AIに関するガイドラインでは、レポートの作成などを生成AIに丸投げするのはやめるべきだとしている。

また、東京大学をはじめとするいくつかの大学が生成AIの利用についての方針を表明しており、文部科学省のガイドラインと同様、生成AIだけで論文を書くことは適切でないとしている。

その反面で、上で述べたようなハルシネーションの問題は、重視されていない。ChatGPTの無批判な利用が非常に危険だということを、早急に生徒や学生に教える必要がある。

大阪万博は「中止になってしもた」

勉強とは関係ないが、大阪万博について、ChatGPTが奇妙な答えをしたことが話題になった。これは、大阪府が高齢者向けの事業として2023年9月から提供しているChatGPTサービス「大ちゃん」で起こった出来事だ。

大阪万博が中止かどうか問うと、「中止になってしもた」と答えたという。「まだ決まってない」「もう終わった」と答えた場合もある（＊）。

＊朝日新聞、2023年10月25日朝刊。

大阪府自慢のサービスということだが、現実に深刻な問題になっている万博について間の抜けた答えを出すので、大きな話題になった。大阪府は、10月17日、利用開始前の画面に「内容の正確性及び最新性等を保証するものではありません」という注意書きを掲載したという。