ルールを理解できないまま勝負が決まる

ゲームでは、盤面が複雑になればなるほど、知識と知性、理解度の高いプレーヤーが有利になる。

書影
エリーザー・ユドコウスキー、ネイト・ソアレス著、櫻井祐子訳『超知能AIをつくれば人類は絶滅する』（早川書房）

3×3の単純な盤面で行う「三目並べ（○×ゲーム）」は、人間のプレーヤーが可能な手をすべて学習できるから、驚きの余地はまったくない。

チェスや囲碁はルールが完全に知られていて、盤面が完全に観察可能だが、はるかに複雑な分岐の選択肢がある。だが強い相手に驚きの手を指されて負けることはあっても、ルール上なぜ負けたかを後で「理解」することはできる。

そして、「盤面」の全容が観察できなくなり始めると、理由もわからずに負けるようになる。たとえば、あなたがいきなり会社を解雇され、上司はとくに理由はないと言うが嘘をついているのが明らかな場合、裏で何が起こったのか、本当のところはわからない。それでも、解雇が原理的にあり得ることは理解できる。

だが盤面が理解できないほど複雑化すると――解雇の隠れた理由だけでなく、根本的なルールや法則さえ理解できなくなると――原理的に許されないはずの展開に面食らうようになる。巨大な船の戦士は、人に向けるだけで殺せる武器を持っていた。

ゲームの盤面やルールそのものを理解できない状況では、より知性の高い相手に、「そんなことがあり得るのか？」と言いたくなるような方法で攻撃されるだろう――その言葉を発するまで生き残ればの話だが。

「一番頭が良い人たち」でも及ばない分野

では、大きな問いに戻ろう。AIはどうやって人類を倒すのか？　どの角度から攻撃してくるのか？

人間の物理学の理解は、1000年前の鍛冶屋よりも進んでいる。高エネルギー物理学に関しては人類の理解が追いついていない領域も多いが、それでもAIがSNSのフォロワーや雇い人の手を借りるだけで、物理的な超兵器をつくれるとは考えにくい。

だがどんなに賢く教養のある人間でも確実に理解できない領域は、まだまだたくさんある。生物学もそうだ。物理学者は有機物を支配する法則を理解しているが、チェスのルールを知っていてもゲームの展開が見えないのと同じで、複雑な結果を予測できない。そして人間は生物学に関しては、「つついてみて何が起こるかを観察する」程度のことしかできていない。