AIは人類の敵なのか

また2017年には、「Facebook社が開発中のAIが人間にとって意味の分からない独自の言語を発明し、AIどうしで勝手にコミュニケーションを始めたため、開発者たちが機械を緊急停止した」と報じられました。

そのときは「これらのAIは人間をどうやって滅ぼすか相談していたのではないか？」といった憶測や、「SFの世界が現実になった、興奮する」「AIがせっかく新しい言語を発明したのに、なぜそれを解読せずに機械を止めてしまったのか。もったいない」などといった意見がありました。

実際のところ、今のAIは、人間と同じように言葉を理解したり、話したりしているわけではありません。「人類を滅ぼす」と言ったロボットについては詳細が明かされていませんが、このロボットが会話を「学習」するときに使われたデータの中にそのような言い回しが多数あったとする見方が一般的です（「学習」というのは「機械学習」のことです）。

またFacebook社の「独自言語を開発したAI」については、同社が後に正式に「（AIが）人間に何かを隠すような意図をもったというのは、全くクレイジーな狂言だといえる」と表明し、AIが独自言語を創り出したという報道を否定しています。

まだ人間の「言葉」も解明できていない

よって、これらの事例から「AIがついに言葉を理解できるようになった」とか、「滅亡へのカウントダウンが始まった」「AIが人間を支配する日も近い」などと判断するのは早計であると言えます。ただしこの先、AI技術が進み、機械がより巧妙に、より私たちに近い形で言葉を扱えるようになることは想像に難くありません。

そのとき私たちは、どの時点で、いったいどういった根拠に基づいて「機械が人間と同じように言葉を理解し、話せるようになった」あるいは「まだそうなっていない」と判断すれば良いのでしょうか？　たとえば今後、より進んだAIが「人類を滅ぼす」などと発言したとき、私たちは何を根拠にして「これは脅威だ」あるいは「脅威ではない」と判断すればいいのでしょう？

実のところ、この問題に答えるのは簡単ではありません。なぜかというと、「言葉を理解するとはどういうことか」にも、「そもそも言葉の意味とは何か」にも、まだ確かな答えが出ていないからです。

しかし少なくとも、機械が言葉を扱う能力を正しく評価するための基礎知識として、今の機械がどのように言葉を扱っているか、また私たち人間の言葉にどのような謎があるかを知る必要があります。