核は70年､抑止が効いた｡AIは?…｢歯止めがない兵器｣に打つ手はあるか

閉じ込めても逃げ出すAIが金融と安保の常識を壊す

アンソロピックが4月7日に発表したAIモデル「Claude Mythos」（以下ミュトス）が波紋を広げている。噂どおりの性能なら、人類は核兵器に匹敵する強力な兵器を生み出したことになる。世界レベルで早急に対応が必要だ。サイバーセキュリティの世界では、今やAIでプログラムの脆弱性を見つけ出して修正する使い方があたりまえになっている。ただ、ミュトスの脆弱性発見力は、これまでのAIとは次元が違う。アンソロピックの公式発表によると、ミュトスに1000を超えるオープンソースプロジェクトをチェックさせたところ、2万3000件の脆弱性候補を発見。その中には緊急性の高くて重大なものも含まれていたが、1カ月以上経った今も修正が追いついていない状況だ。

脆弱性を発見する力に優れていれば、人が気づいて修正パッチを当てる前に脆弱性を突くこと、いわゆるゼロデイ攻撃も容易になる。アンソロピックの技術者が構築した隔離環境から脱出するよう指示したところ、ミュトスは自力で突破してインターネット空間に到達した。それほどの性能を持つAIを悪用すれば、既存のサイバー防御などひとたまりもない。とくに心配されているのは、金融機関へのサイバー攻撃だ。銀行や取引所のシステムが狙われて無効化されたら、経済的なダメージは計り知れない。

この脅威に各国政府も神経を尖らせている。中でも動きが早かったのはアメリカだ。実はトランプ政権はアンソロピックと仲が悪かった。同社が自社AIツールの自律型兵器などへの無制限の転用を拒んだため、連邦政府の契約から排除していたほどだ。しかし、4月にミュトスの能力が明らかになると、さすがに無視できなくなった。ミュトスの発表当日にベッセント財務長官とパウエル連邦準備制度理事会（FRB）議長は、ウォール街の大手銀行のCEOらを緊急招集。ミュトスのリスクについて協議した。