核は70年､抑止が効いた｡AIは?…｢歯止めがない兵器｣に打つ手はあるか

閉じ込めても逃げ出すAIが金融と安保の常識を壊す

アンソロピックが4月7日に発表したAIモデル「Claude Mythos」（以下ミュトス）が波紋を広げている。噂どおりの性能なら、人類は核兵器に匹敵する強力な兵器を生み出したことになる。世界レベルで早急に対応が必要だ。サイバーセキュリティの世界では、今やAIでプログラムの脆弱性を見つけ出して修正する使い方があたりまえになっている。ただ、ミュトスの脆弱性発見力は、これまでのAIとは次元が違う。アンソロピックの公式発表によると、ミュトスに1000を超えるオープンソースプロジェクトをチェックさせたところ、2万3000件の脆弱性候補を発見。その中には緊急性の高くて重大なものも含まれていたが、1カ月以上経った今も修正が追いついていない状況だ。

脆弱性を発見する力に優れていれば、人が気づいて修正パッチを当てる前に脆弱性を突くこと、いわゆるゼロデイ攻撃も容易になる。アンソロピックの技術者が構築した隔離環境から脱出するよう指示したところ、ミュトスは自力で突破してインターネット空間に到達した。それほどの性能を持つAIを悪用すれば、既存のサイバー防御などひとたまりもない。とくに心配されているのは、金融機関へのサイバー攻撃だ。銀行や取引所のシステムが狙われて無効化されたら、経済的なダメージは計り知れない。

この脅威に各国政府も神経を尖らせている。中でも動きが早かったのはアメリカだ。実はトランプ政権はアンソロピックと仲が悪かった。同社が自社AIツールの自律型兵器などへの無制限の転用を拒んだため、連邦政府の契約から排除していたほどだ。しかし、4月にミュトスの能力が明らかになると、さすがに無視できなくなった。ミュトスの発表当日にベッセント財務長官とパウエル連邦準備制度理事会（FRB）議長は、ウォール街の大手銀行のCEOらを緊急招集。ミュトスのリスクについて協議した。

日本も、4月24日の段階で金融庁が「AI脅威に対する金融分野のサイバーセキュリティ対策強化に関する官民連携会議」の初会合を開いた。この動きを受けて、三菱UFJ銀行と三井住友銀行、みずほ銀行のメガバンク3行には、5月22日に片山財務相が正式に表明し、防御用にミュトスへのアクセス権が付与されることが決定した。

ただ、ミュトスが脅威になりうるのは金融領域だけではない。これから問題になってくるのは安全保障上のリスクである。危険なのは発電所や交通などの社会インフラシステムだ。すでに北朝鮮には8400人以上のハッカー集団がいるといわれており、韓国の原子力発電の研究機関や関連会社に侵入を繰り返している。今のところ技術情報を盗むだけにとどまっているようだが、ミュトス級のAIを悪用すれば、社会インフラを遠隔で操作して混乱を引き起こすことも不可能ではない。

戦争も、もはやサイバー抜きには考えられない。ロシアによるウクライナ侵攻は当初、物量に勝るロシアが優位に立っていた。ウクライナが持ちこたえ、時に優勢に立つ場面があるのは、アメリカの支援があるからだ。中でも大きいのが、アメリカ国防総省を主な顧客とするパランティア・テクノロジーズによる情報支援だ。同社はAIプラットフォーム「Gotham」を使ってさまざまなデータからロシア軍の展開を分析。効果的な攻撃目標を割り出してウクライナに情報を渡している。

現時点でもデータ収集力とAIによる分析が戦局を左右しているが、ここにミュトス級のAIが加われば鬼に金棒である。敵側のサイバーセキュリティを易々と突破して機密データまでたどりつけば、手をつけられないだろう。

ミュトス級になると、AIはもはや核兵器と同じである。パランティア・テクノロジーズのアレクサンダー・カープCEOは、2025年に上梓した自著の内容22項目を要約して、今年4月にあらためてSNSで公開した。それによると、AI兵器の開発は不可避であり、核による抑止の時代は終わり、AIが次の抑止力になるという。

そして「米海兵隊員がより良いライフルを要求すれば、我々はそれを製造すべきであり、ソフトウエアについても同様である」とまで言っている。AI兵器の武器商人であることを隠そうともしない開き直りの宣言であり、開いた口がふさがらない思いだが、AIが次の核兵器になるという分析そのものは正しい。そしてその扉を開きかねないのがミュトスなのである。

ローマ教皇レオ14世警鐘を鳴らす

とんでもないものを生み出したアンソロピックだが、さすがに危険だという自覚があり、一般公開はしなかった。ただ、日本を含め15カ国以上の約200社には社会インフラ防御などの観点からミュトスの提供を行っている。アンソロピックは慎重にコントロールしているつもりかもしれない。しかし、テクノロジーはいつまでも抑えておけるものではない。同社のダリオ・アモデイCEOは、アメリカの競合AI企業は1〜3カ月、中国は6〜12カ月でミュトスに追いつくと語った。実際、OpenAIは5月に「GPT-5・5-Cyber」というモデルを限定公開。これはミュトスに匹敵するサイバーセキュリティ能力を持つ見込みである。また、国内にAI開発企業が約6000社あるといわれる中国も、蒸留という手法ですぐに追いついてくる。