進歩したAIは人間には理解できない｢エイリアン｣のような存在になる 最後には自分で自分を破壊するはず

命は有限だからこそ「生きる価値」を共有することができる

進歩したAIは、もはや機械ではありません。ヒトが人格を与えた「エイリアン」のようなものです。しかも死にません。どんどん私たちが理解できない存在になっていく可能性があります。

小林武彦『生物はなぜ死ぬのか』（講談社現代新書）

死なない人格と共存することは難しいです。例えば、身近に死なないヒトがいたら、と想像してみてください。その人とは、価値観も人生の悲哀も共有できないと思います。非常に進歩したAIとはそのような存在になるのかもしれません。

多くの知識を溜め込み、いつも合理的な答えを出してくれるAIに対して、人間が従属的な関係になってしまう可能性があります。私たちがちょうど自分たちより寿命の短い昆虫などの生き物に抱くような、ある種の「優越感」と逆の感情を持つのかもしれません。「AIは偉大だな」というような。

ヒトには寿命があり、いずれ死にます。そして、世代を経てゆっくりと変化していく――それをいつも主体的に繰り返してきましたし、これからもそうあることで、存在し続けていけるのです。AIが、逆に人という存在を見つめ直すいい機会を与えてくれるかもしれません。生き物は全て有限な命を持っているからこそ、「生きる価値」を共有することができるのです。

本当に優れたAIは自分で自分を破壊するかもしれない

同様にヒトに影響力があり、且つ存在し続けるものに、宗教があります。もともとその宗教を始めた開祖は死んでしまっていても、その教えは生き続ける場合があります。そういう意味では死にません。

ヒトは病気もしますし、歳を重ねると老化もします。ときには気弱になることもあります。そのようなときに死なない、しかも多くの人が信じている絶対的なものに頼ろうとするのは、ある意味理解できることです。AIも将来、宗教と同じようにヒトに大きな影響を与える存在になるのかもしれません。

宗教は、付き合い方を間違うと、戦争やテロにつながるのは歴史からご存じの通りです。ただ、宗教のいいところは、個人が自らの価値観で評価できることです。それを信じるかどうかの判断は、自分で決められます。

それに対してAIは、ある意味ヒトよりも合理的な答えを出すようにプログラムされています。ただ、その結論に至った過程を理解することができないので、人がAIの答えを評価することが難しいのです。「AIが言っているのでそうしましょう」となってしまいかねません。何も考えずに、ただ服従してしまうかもしれないのです。

それではヒトがAIに頼りすぎずに、人らしく試行錯誤を繰り返して楽しく生きていくにはどうすればいいのでしょうか？

その答えは、私たち自身にあると思います。つまり私たち「人」とはどういう存在なのか、ヒトが人である理由をしっかりと理解することが、その解決策になるでしょう。

人を本当の意味で理解したヒトが作ったAIは、人のためになる、共存可能なAIになるのかもしれません。そして本当に優れたAIは、私たちよりもヒトを理解できるかもしれません。さて、そのときに、その本当に優れたAIは一体どのような答えを出すのでしょうか？　――もしかしたらAIは自分で自分を殺す（破壊する）かもしれませんね、人の存在を守るために。