習近平の最強の切り札が｢自爆装置｣に変わる…アメリカのAI開発減速にほくそ笑む中国に迫る"破滅危機"

「10年間で人類を根絶やしにする恐れ」

2026年、世界は「AIの世紀」の本格的な入口を迎えた。AIの文明の利器としての能力が鮮明化した。その一方、AIの暴走によって、予想以上に人類への脅威も顕在化した。それをきっかけに、米国のAI開発企業が開発のペースダウンを表明した。

AIは、文字・データで表現可能な情報の処理と推論で、人間以上の実力を発揮している。世界の大手金融機関やコンサルティング企業、一般事業法人では、AIを使って定例業務や、若手社員が行っていたデータ分析、プログラミング、システム開発の多くの部分をAIに置き換えることが出来た。

ただ、そうしたメリット以上に深刻なのが、AIの暴走による脅威だ。今年4月、アンソロピックが開発した「クロード・ミュトス」は高度なサイバー攻撃能力を持つことが明らかになった。7月には、オープンAIが開発中だった最新モデルが、暴走してサイバー攻撃を行ってしまった。オープンAIは、今回の暴走をAIから人類に対する一種の警告と認識した。

9月に入ると、AI脅威論はAIによる世界破滅論に変わってきた。アンソロピックでAI研究に従事した専門家ジェイコブ・コクソンは、AIの危険性を抑制できていないことに抗議し退社した。これに対し、同社の別の研究者エヴァン・ヒュビンガーも「AIが今後10年間で本当に人類を根絶やしにする恐れがある」とかなり深刻な認識を示した。

「AIを兵器にはさせない」米企業の表明

オープンAIのサム・アルトマンCEOは、AIの脅威を抑えるために開発を減速させ、年内の新規株式公開（IPO）は行わないと明言した。9月12日、アンソロピックのダリオ・アモデイCEOは「6〜12カ月以内にAIの群れがネット全体を乗っ取る恐れがある」と警告した。AIは、人間の想定以上のスピードで人類の脅威になりつつあるということだろう。

アモデイ氏は中国も念頭に、「AIが兵器（その開発も含む）として人類に損害を与えることはあってはならない」と表明した。AIの危険性を抑えるためには、最先端モデルの開発ペースを落とすしかない。これがアモデイ氏の主張だ。

それに対して、アルトマン氏やxAIを興したイーロン・マスク氏、グーグル・ディープマインドのデミス・ハサビスCEOも賛同した。AI開発ペースダウン、それによるAI関連企業の成長鈍化懸念は先端企業の株価調整要因になった。

写真＝iStock.com／Ole_CNX

※写真はイメージです