マイページ
故障していなくても機械は危ない
フィジカルAIとは、人型ロボットだけを指すものではない。周囲を認識し、判断し、その結果を現実の動作につなぐAIである。自動運転車、工場のロボット、倉庫の搬送機械などが、その舞台になる。電力設備の運用でも、AIの判断を制御につなぐ範囲が広がれば、同じ問題に向き合うことになる。
例えば、倉庫のロボットが通路の状況を認識し、安全な経路を選び、荷物を運ぶ場面を考えよう。入力される情報が偽られたり、動作を指示する仕組みが侵害されたりすれば、誤った移動や停止につながる可能性がある。危険な動作を防ぐ別の仕組みが働かなければ、その影響は周囲の作業者に及び得る。
情報への干渉が判断を変え、判断が機械の動作を変え、その動作が人や設備に届く。攻撃の入り口はデータであっても、出口は衝突、設備損傷、供給の途絶になり得る。AIが身体を持つと、サイバー攻撃の被害も身体を持つのである。
注意したいのは、機械が故障しなくても危険は生じ得ることだ。カメラやセンサー、位置情報などから得る情報が誤っていれば、機械は与えられた情報に従って、誤った現実認識のまま動く可能性がある。電源が入り、通信がつながり、指示どおりに動いているという確認だけでは、その動作が周囲にとって安全かまでは分からない。
ウクライナで起きた大停電の教訓
もっとも、サイバー攻撃が現実の被害を生むこと自体は、フィジカルAIによって初めて起こるわけではない。2015年12月、ウクライナの配電会社へのサイバー攻撃で、約22万5000の需要家が停電の影響を受けた。米政府の報告が記録するこの事例は、AIの自律判断を狙った事件ではない。従来の設備制御でも、情報システムへの侵入が電力供給を止め得ることを示した事件である。
フィジカルAIの普及で変わるのは、周囲の状況に応じて機械が判断し、動く場所と場面が広がることだ。人の位置、荷物の形、道路の状況などが変わるなかで、危険な動作を生まないかを確かめなければならない。同じソフトウェアや更新の仕組みを多数の機械が共有していれば、一つの問題が複数拠点へ及ぶ可能性もある。
情報漏洩や偽情報にも、取り返しのつかない被害はある。そのうえで、重い物を動かし、高速で走り、社会基盤を制御する権限まで与えたAIには、情報の誤りを物理的な力へ直結させる危険が加わる。攻撃を見つけてから人を守るまでに許される時間も、機械の動作に合わせて考える必要がある。
