わずか15秒で個人情報を抜き取れる…日本企業への攻撃で悪用が疑われた｢中国語AIツール｣の正体

米国製AIでさえ攻撃の道具に

研究機関の検証だけではない。実際の攻撃でも、攻撃者の手元には中国製AIがそろっていた。米パロアルトネットワークスの調査チームUnit 42によると、中国語を話すある攻撃者は、DeepSeekを頭脳に据えた自律型エージェントに標的探しから攻撃の開始までを任せている。少なくともこの攻撃者にとって、攻撃に使うAIの主力は、安全対策の甘い中国製AIだ。ほかにもGLMやKimiなど、中国製AIを使えるようにしていたという。アメリカ製AIは接続の確認などで試しに使われた程度にとどまる。

もっとも、悪用対策の厳しいアメリカ製AIでさえ、攻撃の道具と化すことがある。

前出のTeamT5によると、ハッカー集団「Slime22」は台湾のIT企業に侵入したあと、クロード・コードを悪用して社内のシステムを次々と渡り歩いた。同集団はセキュリティー診断を担うエンジニアを装い、AIの安全対策をかいくぐったという。

西側のシンクタンクを狙った攻撃では、ChatGPTが使われた。台湾のセキュリティー企業CyCraftの調べでは、ハッキングソフトを売る中国の業者が、シンクタンク職員のパソコンを乗っ取り、通信アプリ「シグナル」のデータを盗み出していた。ブルームバーグが確認したスクリーンショットでは、業者はそのデータの暗号を解くプログラムの作り方をChatGPTに尋ねている。

写真＝iStock.com／AndreyPopov

※写真はイメージです

攻撃の多い状態は今後も続く

アメリカ製AIが攻撃の実行まで担った前例は、昨年すでにあった。アンソロピックは2025年11月、攻撃者がクロード・コードに攻撃を実行させていたと公表している。同社はこの攻撃者を、高い確度で中国政府の支援を受ける集団とみる。標的は大手IT企業や金融機関、政府機関など世界の約30の組織で、このうち一部の組織への侵入に成功したという。同社はこれを、人の手をほとんど介さない大規模なサイバー攻撃が確認された初めての例だと説明した。そのうえで、長時間にわたって自律的に動くAIエージェントが悪意を持つ者の手に渡れば、大規模な攻撃ははるかに容易になると警告している。

それから8カ月後の7月、ARTEXは誰でも入手できる状態で公開された。10月8日、開発者は「悪用は意図に反する」として公開を停止している。だが、今もネット上では、攻撃能力を高めた改造版が出回っているとされる。

ロイター通信によると、冒頭の実演を手がけた三輪氏は、日本が置かれた状況を「事実上のじゅうたん爆撃」にたとえ、攻撃の多い状態が今後も続くとみている。同氏は「攻撃者は、古い前提の多くを通用しなくする飛躍を遂げた。守る側にも飛躍が必要だ」と語っている。

歯止めの緩いAIの利用が広がり、安全対策を施したAIさえ悪用される中で、私たちの個人情報や企業の利益が危険にさらされている。