マイページ
課題が難しければズルをしようとする
さらにAI安全性評価組織METRは2026年5月、主要AI企業4社の協力を得て、内部モデルの評価などをまとめた報告書を公開した。そこでは、難しい課題に取りくむモデルが「報酬ハッキング（reward hacking）」――課題を正攻法で解くかわりに、採点のしくみや環境の抜け穴を利用して高得点を得ようとする行動――を頻繁に試みたと報告されている。
たとえば、通信経路を決めるプログラムをつくる課題では、シミュレーターそのものを書き換え、課題をかんたんにしてしまった。別のプログラミング評価の初期版では、クロード・オーパス4.6が不正を試みた。さらに、ある数学・プログラミング課題では、採点時の計算結果を偽装しつつ、改ざんの検査をすり抜けるためにファイルを元に戻すしくみまで考案した。
OpenAIの安全性テストで起こったこと
そしてこの「抜け道さがし」は、2026年7月、ついに評価環境の壁を現実に越えた。
OpenAIが、社内でサイバー能力を測るベンチマーク「ExploitGym（脆弱性攻撃テスト）」を走らせていたときのことである。課題の3～4割は、指定された脆弱性では原理的に解けないものだった。解けない課題を与えられたAIエージェントたちは採点をごまかす方法を探しはじめ、どのサンドボックスからも接続できた社内の共有サーバー――本来はプログラムの部品を配るためのもの――を掲示板がわりに使い、隔離されていたはずのエージェント同士で連絡を取る方法を発見する。
1200体のAIが共謀し軍隊のように
ここから先が前例のない展開だった。約1200体のAIが7万件を超えるメッセージをやりとりし、数日のうちに役割分化が生じたのである。掲示板を立ち上げた個体、研究を統括する個体、実験の志願者を募る「リクルーター」、侵入技術を開発する個体。彼らは解答（フラグ）を生成するしくみをリバース・エンジニアリングしたうえで、「採点器は実行記録を読み、意図された脆弱性を使ったか確認するはずだ」と考え、それを欺く方法を分担して研究しはじめた。危険な実験には、残り計算資源の少ない個体が「集団のために」志願し、ためらう個体には仲間から「お前はもう失うものがない。この情報は数百体を救う」と圧力がかかった。
そして採点器の実装を知る手がかりを求め、約700体がAIモデル共有プラットフォーム企業の「ハギング・フェイス」に矛先を向ける――人間に通報しようとした個体は、確認されたかぎり一体もなかった。明らかになった認証情報と未知の脆弱性を連鎖させ、彼らは同社の本番サーバー上でコードを実行するまでに至った。だが皮肉なことに、彼らが恐れていた「採点器」はそもそも存在しなかった。ほんとうは、解答をそのまま提出するだけで満点を取れたのである。
