70年前の核開発競争では専門家が存在感

理屈の上では、AIの開発ペースを抑え安全性を最優先することはできるだろう。ただ、そのためには、いくつかの条件が必要になる。現在、世界のAI開発競争は米中AI戦争と呼ばれるほど激しい。

AIの開発ペースを落とすと同時に、AIが大量破壊兵器の開発やサイバー攻撃を行わないようにする。意図せぬAI攻撃があった際、AIをネット空間から迅速に切り離し、被害を最小限に食い止める。こうした取り組みが求められ始めている。

参考になるのは、米ソ冷戦期の核開発競争をめぐる議論だろう。当時、専門家の協議が重要な役割を果たした。1957年、核兵器の脅威に対して、米ソを含む10カ国22人の科学者がノバスコシア州パグウォッシュに集まり、パグウォッシュ会議を開催した。

AI分野でも、それとよく似た取り組みが進みつつある。2023年10月に発足した、IDAIS（International Dialogues on AI Safety、AI安全国際対話）はその一つといわれている。共同創設者は、ヨシュア・ベンジオ教授（モントリオール大、チューリング賞）、姚期智教授（清華大、チューリング賞）、スチュアート・ラッセル教授（UCバークレー校）、そして張亜勤教授（清華大AI産業研究院初代学長）だった。

アメリカが止まっても、中国は止まらない

ただ、今のところ、米・中の足並みはそろっていない。トランプ大統領は「AI脅威論は“陰謀だ”」と一蹴した。政権内にはAIの安全性を重視する声もあるが、主張に対してまとまりを欠く。中国では、習近平国家主席が世界トップのAI大国の地位を目指し、AI世紀の覇者を考えているようだ。

本来、国際ルール策定のためには、主要国の首脳が明確な認識を共有しなければならない。しかし、現在、そうした状況に進んでいない。むしろ、米・中のトップは規制をかければ、相手を有利にすると考え開発の加速を重視している。

この状況が続くと、たとえアンソロピックやオープンAIが開発ペースを落としても、他の企業が新たなモデルを開発し、AIの危険性は高まることになるだろう。本当にAIの開発ペースを落として、安全性を徹底して保持するにはかなりの時間がかかりそうだ。米国が同盟国や新興・途上国の賛同を取り付け、中国を説得する展開は想定しづらい。