マイページ
合鍵そのものに善悪はない
ここで、AIを「万能の合鍵」にたとえてみたい。どんな扉の弱いところも見つけ出す合鍵は、鍵屋の手にあれば、家々の戸締まりを点検し、守る道具になる。だが、同じ合鍵が泥棒の手に渡れば、それは侵入の道具になる。合鍵そのものに善悪はない。問題は、誰の手にあるかである。
だからこそ、アンソロピックは10月6日、サイバー分野でこの「合鍵」を使える利用者を審査する制度を、3つの段階に広げた。第1の段階は、攻撃を受けたときの対応や、不正なプログラムの解析といった防御の業務。第2は、許可を得て行う侵入の試験。第3は、電力網や航空のシステム、銀行間の送金基盤といった、社会にとってきわめて重要なシステムの検査である。最も上の段階では、参加する組織を米政府とともに審査する。
これは、会員制のクラブに似ている。入会には審査がある。会員の種類によって、入れる部屋が違う。最も奥の部屋に入れるのは、最も厳しい審査を通った会員だけだ。AIの管理は、「全部止める」か「誰にでも開く」かの二択から、誰に、どの部屋の鍵を渡すかを決める段階に入ったのである。
もっとも、クラブの外にいる人が何もできないわけではない。一般に提供されるモデルでも、プログラムの点検や既知の問題の修正、自社のプログラムの弱点探しといった仕事は、引き続き任せられる。会員制になったのは、最も強力なサイバー能力の部分である。
会員になれなかった側は、自分で火をおこす
会員制にすれば、会員になれない者が生まれる。そして、会員になれなかった側は、指をくわえて待ってはいない。
5月には、Mythosを利用できない欧州の銀行に向けて、フランスのミストラルAIが、サイバー防御に特化したモデルを開発していると報じられた。米国の最先端の火が届かないなら、自分たちの手で別の火をおこす。誰に渡すかという判断は、それ自体が新しい市場を生み、AIの勢力図を塗り替えていく。
ここに、本書で論じた「堀」と「縛り」の二面性が見えてくる。本書では、アンソロピックにとって安全性と信頼性は、他社の参入を防ぐ「堀」になると同時に、自社製品を出す速度を制限する「縛り」にもなると書いた。安全のための基準は、事故を防ぐと同時に、誰が市場に入り、誰が技術を使えるかを決める力も持つのである。
その力を一社が握り続けてよいのか、という問いも当然出てくる。アンソロピックのダリオ・アモデイ最高経営責任者は9月12日の論考で、外部の評価者が社員と同じように開発の現場に入れる仕組みや、企業が共同で安全基準を定めるための制度上の特例、各国の協調を提案した。会員の審査基準を、一社の判断から、社会が確かめられる仕組みへ移そうという提案だと読める。本書の第4章では、AI革命後の競争のルールは、最終的に人間社会の政治が決めると論じた。誰に火を渡すかを決める仕組みづくりは、まさにその政治の最前線なのである。
