マイページ
破局の可能性は95％と見積もる研究者
p（doom）――AIコミュニティ内部で流通するスラングで、AGIの開発が人類の絶滅や不可逆的な破局につながる確率の主観的な見積もりを指す――学術的に厳密な指標とは言いがたいが、各論者のリスク認識の温度差を端的に示す目安について、AI安全性研究の先駆者エリーザー・ユドコウスキーは95％超、元OpenAI研究者のダニエル・ココタイロは約70％、アライメント研究者のポール・クリスチアーノは約20％、ディープラーニングの先駆者ジェフリー・ヒントンは10～20％と見積もっている。効果的利他主義の主要な思想家として知られるウィリアム・マッカスキルも、定義によると留保しつつ、AIによる人類存亡リスクを1～10％程度と見る発言をしている。
OpenAIのCEOサム・アルトマンとグーグル・ディープマインドのCEOデミス・ハサビスも、2023年に出された「Center for AI Safety」の声明――「AIによる絶滅リスクの軽減は、パンデミックや核戦争と並ぶ世界的優先事項であるべきだ」――に署名している。AGI開発の最前線に立つCEOたち自身が、自分たちのつくっている技術がもたらすリスクを公に認めているのだ。AGIの恩恵について楽観視している論者でさえ、破局の確率を「無視できる」とは考えていない。
AIの知能爆発でどんなリスクが発生？
AGIがもたらしうるリスクのうち、極端なものは、まだ現実には起きていない。しかし、これからAIの進歩がAGIへ近づいてゆき、広義の知能爆発が起こる蓋然性が高まれば高まるほど、そのようなリスクも蓋然性の高い脅威として正面からとりくむ必要が出てくる。
「起きるかどうかわからないから考えなくてよい」という態度が許されるのは、起きた場合にとりかえしがつく問題だけだ。しかしAGIリスクの多くは、その性質上、いちど起きたらとりかえしがつかない可能性がある。
AIのリスク「3つの分類」
AGIリスクの全体像を俯瞰するための出発点として、2026年2月に公開された「International AI Safety Report 2026（国際AIセーフティレポート2026年版）」が有用だ。チューリング賞受賞者のヨシュア・ベンジオが座長を務め、30カ国以上の政府機関・国際機関の支持を受けて、100名超のAI専門家が執筆に参加した――AIの安全性に関する国際的な科学的評価として、現時点で最も包括的で、信頼できる資料である。
このレポートでは、汎用AIがもたらしうるリスクを次の3つのカテゴリに整理している。
