AIが生成した文章を見分けることは可能なのか
【酒井】高精度な文章を生成できるようになったことで、AIで作った文章を人間が書いたように装う「不正」が起こる可能性があります。AIが生成したものかどうかを判別することは可能なのでしょうか？ ChatGPTが生成した文章を、自分が書いたと偽って使ってしまう人もいそうです。
【古川】子どもが読書感想文をAIで生成して学校に提出したり、学生がレポートなどの課題に使ってしまう状況はすでに起きています。使用禁止を掲げる学校もあれば、ツールとして活用・共存していく方向を模索する動きもあります。
【酒井】下調べやアイデア出しとして使うならいいですが、ChatGPTが生成した文章をそのままレポートして提出するような人が続出したら、課題の意味がなくなってしまいそうです。
【古川】これはすでにいろいろなところで議論が起きている問題ですね。
【酒井】AIが書いた文章を見分けるようなツールはないんですか？
【古川】OpenAIが2023年1月末に、AIが作成したテキストと人間が作成したテキストを見分ける「AI Text Classifier」を公開しています。
【酒井】OpenAIからしっかりツールが出ているんですね。精度はどのくらいなんでしょう？
【古川】公式サイトによると、AIが書いたテキストの26％を「AIで書かれた可能性が高い」と正しく識別し、一方で9％の確率で人間が書いたテキストを「AIが書いた」と誤って認識するとのことです。
【酒井】現時点では、そこまで高精度というわけではなさそうですね……。このほかにも、見分けるツールは存在するんでしょうか？
【古川】「DetectGPT」「ORIGINALITY.AI」などのツールがありますよ。ただしいずれの場合も、完全に見分けることは難しいと思います。
ツールでも100％の識別はできない
【酒井】今後、AIの精度が上がっても、AIで作ったかどうかを完璧に判別することはできないということですか？
【古川】AIで書いたかどうかを判定するAIを欺くテクニックもすぐに出てくると思うので、結局はいたちごっこになると思いますよ。
【酒井】やっぱり、そうなりますか……。
【古川】実際に、一度AIで生成した文章を、「これをAIで生成されたとわからないように書き換えて」と指示をした結果、ツールの判定結果でAIによって書かれた可能性を示す値が下がったという報告もあります。
【酒井】AI対AIの戦いみたいな状況ですね。
【古川】AIはスペルミスをしないという前提で意図的にスペルミスを入れるなど、ごまかす方法はいくらでもあります。それを完全に防ぐのは難しいでしょうね。
