「本屋大賞作品」を説明させてみると…
このように注目が集まるChatGPTだが、苦手なこともある。実際に試して確信を持ったが、固有名詞や事実関係はかなり怪しい。
「本屋大賞作品の一覧を述べて」と質問をしたところ、「2022年の本屋大賞作品は『麻疹の島』（佐藤哲夫著、集英社）」と堂々と存在しない作品を挙げた。さらに、「過去の本屋大賞作品は、村田沙耶香の『コンビニ人間』、山本文緒の『蛇にピアス』、三浦しをんの『万延元年のフットボール』」と続けるなど、嘘ばかり。
また、講師を務める大学の講義で出したお題でレポートを書かせたところ、どこかで見た薄っぺらい内容のものが瞬時に現れたのには驚いた。これが出されたら、高い評価こそできないが、単位は出さざるを得ないだろう。
しかし、よく見ると文章が支離滅裂なところもあり、複数回試して一番よかったものでも理解が低い学生がとりあえず出したレポートという体。しかも、「根拠となる記事のURLを述べること」と伝えたのに、存在しない記事のURLを挙げてきた。記事のタイトルも存在しないものだった。
知ったかぶりのハッタリがうまい“詐欺師”
間違いだらけで中身がないのに、それっぽく述べることだけはうまい。油断すると騙されそうになる、知ったかぶりのハッタリがうまい詐欺師のようだ。
現在のGPT-4は2021年9月までの情報で動いているため、最新の情報に関しては反映されない。感情を理解したり、倫理観や道徳を踏まえて判断したりすることも難しいとされる。
しかし、有料版「ChatGPT Plus」では最新情報を回答に含んだ新機能が登場するなど、日々進化しており、今後、機能が改善されていく可能性は高い。
まだまだ改善の余地が大きいとはいえ、現状では学生本人が書いたレポートか、AIが書いたものかを大学教員が見分ける方法はない。
そこで文部科学省は、ChatGPTの学校現場での活用方法と注意点の指針を作成予定だ。そのほか、多くの大学が「生成系AIのみを用いてレポートを作成することはできない」「リポートや学位論文などでの使用は認めない」など、AIに対する指針を発表している。多くの教育現場は、ChatGPTの可能性は認めつつ、脅威に感じているのだ。