超知能AIは「不可能な方法」で勝つ

人類とAIの戦いに関しても、私たちなりに知識や知見をもとに推測し、起こり得る展開について何らかの「最低ライン」の予測を示すことはできる。

だがその予測は、1825年の軍官が1キロの黒色火薬を燃やして得られる総熱量を測り、それをもとに1825年に存在する全爆薬の熱量を計算して、「未来の爆薬は今の10倍以上強力になる」と推測するのと大差ない。ちなみにこの推測自体は間違ってはいない。だが「今の10倍以上強力な爆薬」という予測は、「核兵器」の予測とはほど遠い。

超知能が勝利する実際の方法は、「可能だと知られていない方法」を使うことだ。私たちは受け入れやすいことよりも、真実を伝えることを重視する。だから、まずはこれを説明しよう。

中世の鍛冶屋は冷蔵庫を作れるか

仮に、1000年前の鍛冶かじ屋に「冷蔵庫」の設計図を送ったとする。当時の鍛冶屋にも製作できる、単純化した設計図だ。

冷蔵庫の仕組みのカギは、「気体は圧縮すると発熱し、膨張すると冷却する」という物理法則にある（コンピュータのホコリを吹き飛ばす圧縮空気＜エアダスター＞を使っていると、缶がさわれなくなるほど冷たくなるのも同じ原理だ）。現代の冷蔵庫には特殊な冷媒が使われているが、空気を使ってつくることもできる。

気体を封入、圧縮し、再度膨張させる単純な仕組みさえ考案できれば、大昔でも製作可能な冷蔵庫を設計できる。圧縮した空気を冷却し――たとえば空気を冷水に通して粗熱を取り、室温以下にして――再び膨張させれば、空気は冷却水よりも（圧縮前よりも）冷たくなる。

もし鍛冶屋がこの不思議な装置の働きを説明されずに、ただ設計図だけを受け取ったら、装置から冷気が出てくるのを見て腰を抜かすだろう。気体の温度と圧力の関係を示す法則は、当時まだ知られていなかったのだ。

現代の私たちは、1000年前の鍛冶屋が知らなかった現実の法則を理解しているから、彼らには推測さえできない働きをする装置の「青写真」を設計できる。彼らはたとえ青写真を熟読し、装置を自分の手でつくったとしても、それがどんな働きをするのかはまったくわからない。これこそが、人類がみずからを、そして文明全体をも凌駕する理解を持つ存在に対して感じることなのだ。