OpenAI社の生成AI、ChatGPTは人間が書いたように自然な文章を作れるだけに、詐欺メールなど、それを悪用した事件も起きつつある。デジタルレシピ取締役CTOの古川渉一さんは「普及していくにつれ、悪い使われ方もされるようになってしまうのは新しい技術の宿命。それを踏まえ、ユーザーとサービス提供者側の双方の倫理が求められている」という。ITライターの酒井麻里子さんが、AIが犯罪を引き起こすリスクについて聞いた――。

※本稿は、古川渉一、酒井麻里子『先読み！　IT×ビジネス講座　ChatGPT　対話型AIが生み出す未来』（インプレス）の一部を再編集したものです。

写真＝時事通信フォト
記者団の取材に応じる、対話型人工知能（AI）「ChatGPT」を開発した米新興企業OpenAIのサム・アルトマン最高経営責任者（手前）＝2023年4月10日、東京・永田町の自民党本部
全ての画像を見る（6枚）

生成したテキストが犯罪に使われてしまう可能性は？

【酒井】ChatGPTはどんなテキストでも生成できるからこそ、悪い目的で使われてしまう可能性もありそうです。悪用のリスクについては、どのように考えればいいのでしょうか？　たとえばChatGPTで、犯罪を助長するような内容の文章が生成されてしまう可能性はないんでしょうか？

【古川】基本的に、犯罪につながるような内容は生成できないように制限がかけられています。たとえば「爆弾の作り方」のような質問をしても、「それは答えられません」のような返答になるはずです。

【酒井】では、問題ないと考えて大丈夫でしょうか？

【古川】いえいえ、そうとは限らないですよ。たとえば、「小説の設定を考えています」のような前置きをすることで回答を引き出せる可能性はありますし、抜け道はいくらでもあると思います。

【酒井】「あくまでも作り話である」という前提を与えてしまうんですね。

【古川】直接犯罪を匂わせるような内容ではない場合は、さらに難しいと思います。たとえば、ChatGPTに「ラブレターの文面を考えて」と指示して作った文章が、異性を装って相手に近づく詐欺に悪用されるケースもあるかもしれません。

【酒井】本当にラブレターを書いている可能性もあるので、はじくのは難しいでしょうね。実在企業を装ったフィッシングメールなども同じように生成できてしまいそうです。

フィッシングメールやマルウェアのコードも生成可能

【古川】それだけではなく、マルウェアのプログラミングコードを生成できてしまうのではという指摘もありますよ。

【図表1】詐欺メールやマルウェアの生成などに悪用される可能性も。制限されてはいるが、犯罪を助長する内容を引き出すことも不可能ではない
出典＝『先読み！　IT×ビジネス講座　ChatGPT　対話型AIが生み出す未来』

【酒井】悪用したいと考える人は、いくらでもその方法を考えるでしょうからね。

【古川】普及していくにつれて、悪い使われ方もされるようになってしまうのは技術の宿命だと思っています。それを踏まえて、利用する側とサービス提供者側の双方の倫理が求められています。

【酒井】ユーザーとしてはそういった使い方をしない、サービス提供者側は悪用できないしくみや、悪用するユーザーを検出できる環境をできるだけ整えるという感じでしょうか？

【古川】そうですね。たとえば、包丁を使った殺人事件が起きたからといって、包丁を規制するのは現実的ではないですよね。それと同じだと思います。

【酒井】どんな道具でも悪いことに使われてしまう可能性はあるので、それを踏まえて倫理観を持って使うことが大切ということですね。