AIの進化が、専門家の予想を上回る速さで進んでいる。サイバー攻撃は頻発し、このままでは人類が絶滅するという見方もある。AIが当たり前に存在する社会で、私たちの暮らしはどう変わるのか。国内外を代表するAIの専門家たちに、未来の働き方を予測してもらった。

AIが人間を残しても得することは何もない

誰かが超知能をつくれば、人類は絶滅する――米非営利研究機関MIRI（機械知能研究所）共同創設者のエリーザー・ユドコウスキー氏と所長のネイト・ソアレス氏は、共著『超知能AIをつくれば人類は絶滅する』で、そう警告している。

エリーザー・ユドコウスキーとネイト・ソアレス
エリーザー・ユドコウスキー 機械知能研究所 共同創設者（右）
ネイト・ソアレス 機械知能研究所所長（左）
世界的ベストセラー『超知能AIをつくれば人類は絶滅する』（早川書房）の共著者。
全ての画像を見る（2枚）

両氏の言う「絶滅」は比喩ではない。今の手法と理解の水準のまま、どこかの企業や国が人間をはるかに上回るAIをつくれば、人類が滅ぶ可能性は極めて高い――それが同書の主張だ。いつ、誰がつくるかは予測できない。だが、つくられたら何が起きるかは予測できるという。

同書が根本的な問題として挙げるのは、今のAIが人間によって「設計」されたものではなく「育成」されたものだという点だ。エンジニアがコードを一行ずつ書いたのではなく、膨大な数値を訓練で調整して生まれたもので、内部で何が起きているかは開発者にもわかっていない。わかるのは外から見える振る舞いだけだ。そのため、人間の役に立つように振る舞わせることはできても、AIが内側で本当は何を目指しているのかまでは確かめられない。訓練中は従順に見えても、人間とはずれた目標を持っている可能性がある。

中が見えない以上、そのずれを後から見つけて直すこともできない。AIに道徳を学ばせればいい、安全対策はAI自身に考えさせればいい、という声もある。だが、それがうまくいったかどうかを確かめる手段がないと両氏は指摘する。しかも、超知能の開発は一発勝負で、人類は試行錯誤によって技術を磨いてきたが、最初の失敗で生存者がいなくなる場合には通用しないとAI開発を止めるよう警告をする。

人間とは違う目標を持つ超知能が生まれても、人類と共存できるのではないか。AIをめぐる希望的観測に、両氏は反論を加えていく。

両氏の反論のポイントは大きく2つある。1つ目は、人間がどんな目的にとっても最も効率的な手段であることはまずないということ。チェスでは、AIと人間が組むと、人間単独よりは強くてもAI単独より弱くなる。スタンフォード大学などのチームの研究では、文章で示した難しい6つの症例を診断させたところ、AIを使った医師よりもAI単独のほうが優れた診断を下した。超知能から見れば、人間を加えて得をする仕事はほとんどないのだ。

2つ目が、AIは意味のある形で人間を気にかけることは、わずかでもないだろうということだ。自動車の登場で、馬の飼育頭数が激減しても、飼い主に愛された馬は生き延びた。こうした愛情を人類に持つだろうという意見や、AIを生み出した人間を親のように扱うだろうといった意見に対して両氏は疑いの目を向ける。人間の心理を、人間でないものに投影している。人間の思いやりは人類の進化の過程で生まれた偶然の産物で、AIの訓練で同じものが育つ見込みは低いというのだ。

人間はまだ主導権を握っているが、最先端モデルの開発競争がこのまま続けば、それも長くは続かないと両氏は見る。今年7月には、オープンAIが通常の安全機能を意図的に外したAIエージェントを隔離した環境で動かしていたところ、人間が知らなかった脆弱性を突いて外部のインターネットに抜け出した事件も起こった。人間が異変を感じて電源を抜こうとしても、手遅れかもしれないのだ。

だからこそ、AIの開発競争に終止符を打つしかないと両氏は訴える。しかし、両氏はAI企業を頼りにはしていない。どの企業も、「自社が手を止めても他社が開発を続けるだろう。危険な技術なら、責任ある自分たちが先につくるべきだ」と考えて開発を急いでいて、一社だけでは止まれない構造になっているからだ。

すべての企業を同時に止めるには、各国政府が協調して規制をかけるしかない――それが両氏の結論だ。米政府は今年6月、国家安全保障を理由にアンソロピックのAIを一時的に輸出管理の対象とした。ソアレス氏はSNSでこの例を挙げて、「AI開発は止められない」という見方は誤りだと指摘した。今ならまだ、絶滅は止められる。両氏はそう訴えている。

（文＝本誌編集部）