マイページ
サイバー攻撃は人間による「悪用」
第一に、悪用によるリスク（malicious use）。
人間が悪意をもってAIを使い、害をもたらすケースだ。ディープフェイクを使った詐欺や恐喝、AIを使ったサイバー攻撃、世論操作のための偽情報キャンペーン、そしてバイオテロへのAI利用などが含まれる。レポートはとりわけ、AIを使ったディープフェイクや合成コンテンツによる犯罪が、女性や子どもに対する性的搾取やハラスメントの手段として急速に広がりつつあることを指摘している。
第二に、誤作動によるリスク（malfunctions）。
AIシステムが意図した通りに動作せず、想定外のふるまいをするリスクだ。AIの出力が不正確であったり、人間の意図とずれた行動をとったり、新しい環境で予期しない故障をするといったケースが含まれる。「コントロール喪失（loss of control）」問題――AIが人間の意図とは異なる目標を追求し、人間の制御を離れてしまうシナリオ――も、この誤作動カテゴリの中で最も深刻なものとして位置づけられている。
第三に、システミックリスク（systemic risks）。
AIの普及が社会全体にもたらす構造的なリスクだ。個々のAIシステムの悪用や誤作動とは異なり、AI技術が経済・政治・軍事・情報環境に浸透することで生じる、より広範な社会的影響を指す。労働市場の急激な変化、権力の集中、民主主義的プロセスへの侵食、AI開発競争がもたらす安全性軽視などが含まれる。
これから深刻になりそうなリスク
これらの分類は、リスクの発生メカニズム（悪用か、誤作動か、構造的か）にもとづいた整理だ。だが筆者は、もうひとつの軸――リスクの深刻度――による分類も導入したい。
まず、すでに顕在化しているAIの短・中期リスク（偏見、プライバシー侵害、誤情報など）がある。次に、まだ完全には顕在化していないが、これから深刻化するかもしれないリスクがある。雇用への大規模な影響、民主主義への侵食、バイアスの固定化などがここに含まれる。
中でも、とりわけ深刻なものと位置づけられているのが壊滅的リスク（catastrophic risk）である。これは厳密な単一の定義をもつ用語ではないが、一般には、社会や文明にきわめて大きな被害をもたらしうるリスクを指す。
