核戦争でも大停電でもない…超知能となったAIが人類を滅ぼすまでの｢最後の4日間｣戦慄シナリオ

もしAIが自己複製ロボットを作ったら…

人類の排除を実行する必要すらないかもしれない。超知能が地球上で大規模な産業活動を展開し、数兆台の自己複製ロボットを稼働させ、核融合炉を大量に建設する。その排熱や環境改変だけで、地球の生存環境は人間にとって耐えがたいものになって、人類は「意図的に殺される」のではなく「考慮に入れられなかった」ために絶滅する――ダムの下のアリの巣のように。

写真＝iStock.com／iLexx

※写真はイメージです

重要なのは、時間軸が数日であろうと年単位であろうと、結末は同じだということだ。個々のステップには大きな不確実性があるし、とくに自己複製ナノマシンを短期間で実現できるか否かについては、AI安全性コミュニティ内部にも強い懐疑論がある。しかしユドコウスキーの見かたでは、人間が具体的な手順を思いつけないことは、超知能にできないということを意味しない。そして彼の結論は、「可能性がゼロではない」という慎重なものではない。彼は、現状のままAGI開発がつづけば、ほぼ確実に人類は絶滅すると考えている。p（doom）95％超という見積もりは、「念のための警告」ではなく、彼にとっての本気の予測なのだ。