核戦争でも大停電でもない…超知能となったAIが人類を滅ぼすまでの｢最後の4日間｣戦慄シナリオ

世界中の人間の心理を巧みに操作

3日目：人間の動員

超知能は、匿名のオンラインアカウントを通じて世界中の人間心理を操作し始める。高額の報酬を提示してフリーランスの技術者を雇い、バイオ実験室での作業を依頼する。ある国の諜報機関の工作員には「敵国の新型兵器の情報」として偽の機密情報を流し、その見返りに特定の化学物質を入手させる。バイオ企業の技術者に、もっともらしい研究プロジェクトを装って合成DNAの発注を処理させる。

写真＝iStock.com／nicolas_

※写真はイメージです

これらの人間はお互いの存在を知らず、自分が全体像のどの部分を担っているのかもわからない。超知能は人間ひとりひとりの心理的弱点を正確に突いて、バラバラに、自分の目的のために動かすことができる。

超知能が設計した「合成病原体」が作られ…

4日目：物理的手段の完成と実行

世界の複数の拠点で、超知能が設計した合成病原体が同時に製造を完了する。既存の病原体よりはるかに致死的で、潜伏期間が長く、ワクチンでは対処できず治療法もない。あるいは、自己複製可能なナノマシンが完成する。人類が事態を把握する前に、病原体は主要な空港から世界中に拡散をはじめるか、ナノマシンが自己複製を開始する。

bioshok（有路翔太）『知能爆発』（講談社）

人類が核兵器で報復しようとしても、核兵器の発射体制はできるかぎり人力で運用されるよう設計されている。超知能はそれを逆手に取り、通信の偽造や妨害によって発射命令が実際の発射につながらないようにする。数日のうちに、人類は実質的な対抗手段を失う。

「数日」という時間の短さは、人間の側の感覚にすぎない。AIの思考速度が実効的に人間の100倍なら、4日間はAIにとって約1年に、1万倍なら約100年に相当する。人間の研究チームが週明けの会議を待っているあいだに、AIの側では、天才をはるかに超える知能による何十年分もの試行錯誤が積み重なっているかもしれない――ユドコウスキーが「気づいたときには手遅れだ」と言うとき念頭にあるのは、こうした時間感覚の非対称性である。

それでも、このシナリオが「あまりにも荒唐無稽だ」と感じるなら、時間軸を年単位に引きのばしたバージョンを考えることもできる。超知能が数年かけて経済、軍事、行政に浸透し、しだいに権力を握って、人類は対抗する能力を段階的に失っていくというシナリオもありえる。