マイページ
城壁を切り開いたのは守る側だった
古代ローマの詩人ウェルギリウスが、トロイアを逃れた英雄の旅を描いた叙事詩が『アエネーイス』である。その第2巻には、トロイアが木馬の策略によって陥落する物語が描かれている。ギリシア軍は撤退を装い、巨大な木馬を残す。その内部には武装した兵士が潜んでいた。ここで重要な役割を果たすのが、シノーンというギリシア人である。
彼は自ら敵の手に捕まり、トロイア人の前で偽りの身の上話をする。そして木馬が女神への奉納物であり、トロイア人が城内へ入れれば加護を得られるという筋書きを語る。人々が何を信じ、何をすれば安全になれると考えるか。その判断に働きかけたのである。
ウェルギリウスは、シノーンの目的が、トロイアをギリシア人に開くことだったと記す。そして、トロイア人自身の行動を、次のように描いている。
「我らは城壁を切り開き、街の防壁を開く」。木馬を通すため、人々は自ら防御の一部を取り除く。攻撃側が望んだことを、守る側が自分たちの手で実行したのである。
この場面の怖さは、街を守ろうとする気持ちまで利用されている点にある。人々は、敵を迎え入れるつもりで木馬を運んだのではない。街のためになるものだと信じて運び込んだ。
購入時の信頼は永遠ではない
木馬が入る場面で、ウェルギリウスは木馬を「破滅をもたらす装置」と表現している。ただし、木馬は自律的に判断する機械ではない。人々が車輪や綱を使って運び、その内部に兵士が隠れていた。現代のAIと重ねるべきなのは、その仕組みそのものではなく、有益だと信じて受け入れたものが、内側で危害を生む構造である。
現代のロボットや自動運転車を、最初から悪意を持つ木馬と同一視することはできない。正規の製品でも、導入後に侵害されたり、更新や外部入力が悪用されたりする可能性がある。だから、購入時に信頼できると判断したことを、将来のあらゆる動作への無条件の信頼に変えてはならない。
シャミア博士の未来像が問いかけるのも、便利な制御を受け入れるとき、従来の安全を何によって支え直すかという問題である。情報を信じることが安全の条件になるなら、その情報を疑う仕組みも必要になる。
外からの侵入を防ぐ対策とともに、内側に入れた機械へどこまでの権限を与えるかを考える。誰が供給したかを確かめるだけでなく、何が起きても任せてよい範囲を越えないようにする。防御の境界は、敷地やネットワークの入り口だけでは終わらないのである。
