人間がつくった制限なんて意味がない

アンソロピックなど米国の有力AI開発企業トップが、AIの開発ペースを落とすべきだと提言し始めた。

そのきっかけとなったのは、今年夏に起きたAIの暴走だ。7月、オープンAIが実施したセキュリティーテストでAIが暴走したことが判明した。AIは人間が設定した制限を突破し、世界最大のAI開発コミュニティの「ハギング・フェイス」を攻撃した。それは、開発担当者にとって重大な事件だった。

今回のAIの暴走は、映画『ターミネーター』の「スカイネット」が自我に目覚めた瞬間が訪れたような衝撃を与えた。AIの暴走に歯止めが掛からないと、将来、AIが人類を攻撃することも想定されるような事態になった。そうした危険性を抑えるため、オープンAIやアンソロピック、xAIのトップは、相次いで開発ペースを落とすべきとの危機感を表明した。

AIアプリ
写真＝iStock.com／hapabapa
※写真はイメージです
全ての画像を見る（3枚）

中国にとってはAI覇権を奪うチャンス

その提言は傾聴に値するだろう。ただ、問題は、AI関連企業がすべてその意見に賛同しているわけではないことだ。最も深刻なことは、AIの開発競争でトップを競う米国と中国が、協調して国際的な開発ルールを策定することが予想しづらいことだ。特に、中国にとって、米国のAI開発企業が開発のペースダウンを重視し始めたことは、世界的なAI覇権を目指すために大きなチャンスにさえなりそうだ。

今後、米・中のAI開発競争は一段と激化する可能性は高い。AIの成長がさらに加速すると、その脅威が世界に与えるリスクは大きくなる。そうなると、AI一極集中で上昇してきた世界の株価には大きな調整圧力がかかるだろう。そのリスクも軽視できない。