マイページ
タイムズカーなど、顧客の個人情報を大規模に漏洩する企業が続出している。AIのリスクについてXなどで発信している有路翔太（bioshok）さんは「一連の情報漏洩にもAIが悪用されている可能性が高い。AIは知能爆発によって人類に恩恵をもたらしうるが、その反面、取り返しがつかない事態を招くリスクもある」という――。
※本稿は、bioshok（有路翔太）『知能爆発』（講談社）の一部を再編集したものです。
一度起きれば取り返しがつかない
AGI（人間のできるタスクをほぼ何でも効率的に実行可能なAIシステム）開発後の世界で起こりうる爆発的な変化――経済爆発、技術爆発、産業爆発が実現すれば、数百年分の科学技術の進歩がわずか10年ほどに圧縮され、自己複製ロボットが太陽系規模のエネルギー文明を築くというシナリオが、AI業界の最先端では議論されている。このような未来像は、AGIピル（図表1参照）世界観の「光の側面」といえる。
だが、技術の歴史には必ず「影の側面」がつきまとう。新たな技術がもたらす力が大きくなればなるほど、その帰結として、危険性もまた大きくなってゆく。
電子レンジや付箋のような小さな発明は、生活を少し便利にするだけで、壊滅的な被害をもたらすことはまずない。しかし火や農耕、産業革命、原子力といった、文明全体を変えうる規模の技術は、人類に途方もない恩恵をもたらすいっぽうで、途方もない破壊をもたらす可能性も同時に開く。恩恵が大きいほどリスクも大きい――両者は不可分に結びついている。
AIがもたらすのはユートピアか破滅か
そして、AGIが地球規模、いや太陽系規模のインパクトをもたらすならば、その影響の「振れ幅」は人類史上どの技術よりも極端になる。ユートピアと絶滅が同じコインの裏表として並ぶのは、決してSFめいた誇張ではなく、技術のインパクトが文明的スケールに達したときに必然的に生じる構造なのだ。
実際、AGIピルを飲んでいる人びとの多くは、この「影」の側面を、技術爆発や産業爆発そのものと同じくらい深刻にとらえている。AGIがもたらすインパクトが大きいと信じれば信じるほど、それが制御に失敗した場合の帰結も、また壊滅的になると考える理由が強まる。
