マイページ
「止めればいい」では足りない
具体的に必要なのは、AIの判断が誤っても、直ちに危険な動作につながらない構造である。受け取った情報を別の手段でも確かめる。動作には速度や力、立ち入り範囲などの限界を設ける。安全を担う仕組みが、侵害された部分と一緒に機能を失わないようにする。
米国の道路交通安全当局NHTSAは、多層の防御、安全上重要な制御の保護、検知・対応・復旧を重視する。米国立標準技術研究所（NIST）の設備制御に関する指針も、性能、信頼性、安全性を扱う。現実の機械を守るには、人と設備への影響まで見なければならない。
そして、「異常があれば止めればよい」と考えるだけでも不十分である。走行中の車は、どこで、どのように減速するのか。重い荷物を持つロボットは、電源を切る前に、その荷物をどう保持するのか。冷却が必要な設備では、何を止め、何を動かし続けるのか。
安全な状態は、機械と現場によって違う。急停止が危険を増やす場合もある。機械が即座に行う処置と人が判断する処置を分け、危険を抑えながら安全な状態へ移れるかを確かめる必要がある。
まず動き、限定した場で直す
導入後も、更新によって安全性が損なわれないか、通信の途絶やセンサー情報の食い違いに対応できるかを確かめ続ける。製造者、システム提供者、運用者の間で、点検、更新、事故対応の役割と費用を、使い始める前に決めておく。
これらを担う人材の育成を考える手がかりとして、ニューズウィーク日本版への寄稿「イスラエルはいかにして世界屈指の技術大国になったか」（2017年4月27日）では、イスラエルでの現地訪問をもとに、8200部隊を含む人材育成と国家戦略の仕組みを論じた。
ただし、8200部隊はパレスチナ人への監視にも関わる軍の情報部隊であり、その活動には人権上の批判がある。人材育成や技術力を論じる際にも、その技術が向けられる人々の暮らしと権利を視野に入れなければならない。誰の安全を守り、その過程で誰に危害が及ぶのか。技術を持つ側だけで評価を完結させないことは、フィジカルAIの社会実装にも欠かせない視点である。
また、私が聞き手を務めたビジネスインサイダーの対談「現役外交官3人が語り尽くした。いま『破壊的イノベーション』がイスラエルから生まれる理由」（2019年3月19日）では、まず行動し、状況に応じて修正する姿勢が語られた。フィジカルAIでは、人に危険を及ぼさない試験環境と限定した運用範囲で、この学び方を実践することが重要だ。
