マイページ
『サピエンス全史』ユヴァル・ノア・ハラリの警鐘
世界的ベストセラー『サピエンス全史』で知られるイスラエルの歴史学者ユヴァル・ノア・ハラリが、著名なテック系雑誌『WIRED』で受けたインタビューのなかで、なかなか興味深い話をしていた。いわく、馬やゾウが人間社会の仕組みを（かれらの知能や認知能力にとっては複雑で難解すぎるがゆえに）まったく理解できないまま人間によってその運命を握られ翻弄されているのと同じように、今度は人間がAIによって馬やゾウがいま置かれている立場になるかもしれないと。
私が最近WIREDで読んだ記事では、AIが宗教を作って聖典まで書いたうえに新しい暗号通貨の普及にまで関与したという話が紹介されていました。このAIの資産は計算すると4000万ドルに上るそうです。
もしAIが自らのお金を所有しその使い道を自分で決めたら何が起こるでしょうか？ もし株式市場に投資を始めたら？ つまり今後は金融の動きを理解しようと思ったら、人間の考えだけでは追いつかずAIの思考や意図も理解する必要があるのです。
AIは人間の理解を超えた発想をするかもしれません。たとえば馬はお金という人間の概念を知りません。私が馬をお金で売っても馬にはその状況がわかりません。お金を知らないからです。そして今度は人間が馬の立場になりつつあります。馬やゾウは自分たちの運命を左右する人間社会の仕組みを知りません。私たちの人生は高度で理解不能なAIネットワークによって決められるのかもしれません。
WIRED.jp（YouTube）『ユヴァル・ノア・ハラリが情報の未来をアップデート | The Big Interview | WIRED Japan』（2025年4月29日）より引用
人間は「馬やゾウ」のような立場に置かれるかもしれない
AIが人間社会の制度設計や意思決定のレイヤーに深く関与し、私たち一人ひとりの日々の「営み」の方向性に大きな決定権を持つようになったら、私たちはたしかに、人間社会の仕組みに翻弄される（≒なにが起こっているのか主観的によくわからないまま自分の状況や運命が右往左往する）馬やゾウと同じような立場に置かれてしまうのかもしれない。
なぜAIが私たちにそのような道を示したのか？ そのような選択を提案したのか？ そのような判断を行ったのか？ 私たちがそれを理解しようといくら思慮を巡らせても、進化したAIの思考の処理速度と到達深度と変数の複雑性はもはや人間の思考能力や想像力の限界をとっくに超えていて、なにもわからないに等しくなる。わけがわからないまま「この道に進みなさい。そうするのが最善だから」という最終的な“結論部分”だけを突きつけられる。
ある人の未来の姿について、本人の視点では完全に予測不能に見えても、だからといってAIにとってはそうとはかぎらない。AIなら人間がやれば途方もない年月がかかる膨大かつ複雑な計算を瞬時に行って“最適解”を見出しうる。そうして彼に選ぶべき（or 選ぶべきでない）道を指し示す。あるいは社会全体の幸福や安寧のために必要だと判断したなら彼がその次にとる行動をなんらかの方法で強制するかもしれない。
……というのが、ハラリの言いたいことだ。
