進歩したAIは人間には理解できない｢エイリアン｣のような存在になる 最後には自分で自分を破壊するはず

※本稿は、小林武彦『生物はなぜ死ぬのか』（講談社現代新書）の一部を再編集したものです。

写真＝iStock.com／MF3d

※写真はイメージです

全ての画像を見る（3枚）

あくまでAIはツールであるべき

AIと共存していく社会について、考えてみましょう。AIは何らかの答えを出してくれますが、問題はその答えが正しいかどうかの検証をヒトがするのが難しいということです。大切なことは、何をAIに頼って、何をヒトが決めるのかを、しっかり区別することでしょう。

よく使われるものとして、データをコンピュータに学習させて、それを基に分析を行う機械学習型のAIがあります。これは過去の事例からの条件（重み付け）にあった最適な答えを導き出すので、その学習データの質で答えが変わってきます。画像診断のように、見落としなどがないように医師を助ける道具としては非常に役立ちます。ただ、例えば過去の事例にないケースの判断は難しいですが、最終的には「答えを知っている」医師が判断すればいいので問題はありません。

機械学習型ではなく、SF映画に登場するヒトのように考える汎用型人工知能はどうでしょうか？　まだ開発途中ですが、さまざまな局面でヒトの強力な相談相手になることが期待されています。こちらはヒトが「答えを知っている」わけではないので使い方を間違うと、かなり危険だと思っています。なぜなら、ヒトが人である理由、つまり「考える」ということが激減する可能性があるからです。一度考えることをやめた人類は、それこそAIに頼り続け、「主体の逆転」が起こってしまいます。ヒトのために作ったはずのAIに、ヒトが従属してしまうのです。

ではそうならないようにするには、どうすればいいのでしょうか。私の意見としては、決して「ヒトの手助け」以上にAIを頼ってはいけないと思います。あくまでAIはツール（道具）で、それを使う主体はリアルなヒトであるべきです。