「慈悲深い機械仕掛けの神」となる可能性

しかし、これらのAI開発企業はいずれもAI開発を引き続き行った。

なぜか？　最も明白な理由として、AIの開発は非常に儲かる可能性が高いことが挙げられるが、それだけではない。一部のAI研究者は、アライメントは問題になどならず、AIの暴走の懸念は誇張されていると考えているが、危険性に対して過度に無関心だと思われたくない。

しかしAI業界に従事する者の多くは、OpenAIのCEO、サム・アルトマンの言葉を借りれば「無限の恩恵」をもたらす超知能を生み出すことは人類の最重要課題であると考えるAIの真の信奉者たちだ。理論上、超知能AIは病気を治療し、地球温暖化を解決し、豊かな時代をもたらす、慈悲深い機械仕掛けの神のような存在となる可能性がある。

AIの分野は、膨大な議論と懸念が渦巻いているが、明確にわかっていることはわずかしかない。一方は黙示録的大惨事を、もう一方は救済を主張している。これらをどう判断したらいいのかは相当な難問だ。

AIによる人類滅亡の脅威は、明らかに現実のものだ。しかしいくつかの理由から、本書ではこの問題について多くの時間を費やすつもりはない。

私たちはより喫緊の決断を迫られている

ひとつ目の理由として、本書はAIがはびこる新たな世界の、短期的で現実的な意味に焦点を当てているからだ。たとえAIの開発が停止されたとしても、私たちの生活や仕事、学習などに及ぼすAIの影響は甚大なものとなるため、かなりの議論が当然必要である。

また、終末的な大惨事に焦点を当てると、私たちのほとんどから当事者性と責任感が奪われることになると私は考える。そういった思考になると、AIはほんの一握りの企業が製造するかしないかの問題となり、シリコンバレーの数十人のCEOと政府高官以外は誰も、次に何が起こるのかについて決定権を持たないことになる。

しかし現実には、私たちはすでにAIの時代の始まりを生きており、それが実際に何を意味するのかについて、いくつかの非常に重要な決断をする必要がある。人類存続のリスクに関する議論が終わるまでそれらの決断を先延ばしすることは、それらの選択を私たちにかわって別の誰かが行うことを意味する。

さらに、超知能への懸念はAIのアライメントと倫理の問題のひとつに過ぎないが、超知能は華々しく目立つために、他のアプローチの影を薄くすることがままある。実際には、潜在的な倫理的懸念は、他にも様々なものがあり、それらもアライメントという大きなカテゴリに含まれるのだ。