｢コップに水を入れて｣という指示がAIにとって超複雑な理由 仕事はできても､空気は読めない

似たような仕事でも、AIにとっては別物

今すでに世間では「人の言葉が分かるAI」とか「人の心が分かるAI」などといったことを謳っているシステムもありますが、それらの実体は「雑談をするAI」だったり、「質問文を入力として受け付け、答えとなる単語を出力するAI」だったり、「文章を入力として、『喜び』『怒り』『悲しみ』などといった感情の種類を出力するAI」であったりします。

漠然とした宣伝文句に踊らされないようにするためには、「そのAIがする具体的な仕事は、いったいどのように定義されているのか」を見極める必要があるでしょう。

写真＝iStock.com／wonry

※写真はイメージです

また注意しなくてはならないのは、たとえ人間にとっては似たような仕事であっても、AIにさせる場合は「まったくの別もの」である可能性があるということです。人間の場合は、難しい文章を外国語に翻訳できる人が、文章の要約や日常会話、ましてや言葉の聞き取りもできることなどはほぼ当たり前で、不思議でも何でもありません。

よって、機械に対しても、「こんなに高度な翻訳ができるんだから、文章の要約ぐらい簡単だろう」とか、「言葉の聞き取りが人間並みにできるんだったら、当然日常会話はできるだろう」と思いがちです。

しかし機械にとっては原則として、翻訳と要約、対話、音声の認識はどれも異なる仕事です。

また、「機械学習によって作られたAIは、人間がすべてプログラムして作ったAIより融通が利くはず」という意見を見たこともありますが、機械学習の「融通」は、あくまで「機械学習がうまくいっている場合は、本来の使われ方（＝それが本来するべき仕事）の範囲内で、開発時に使われるデータには存在しないデータに対しても、高い確率で正解を出せる」ということです。

これは、必ずしも「本来想定していない使われ方をされても大丈夫」ということを意味しません。こういった点にも注意が必要です。

「言われたとおりにやる」が弱点

AIとコミュニケーションを取るには、他にも課題があります。言葉に込められた他人の意図を適切に理解するには、単に言葉についての知識だけでなく、それ以外にも多様な知識が必要です。つまり意図の理解というのは、多様な知識を持った者がそれらの知識を上手に組み合わせた結果、初めてうまくいくものなのです。

これだけでも非常に難しいことですが、他人の意図を理解することの先にも、さらに難しい課題があります。それは、「言われたことを適切に実行する」ということです。

私たちがAIに対して期待することが、「私たちの言うことを聞いてくれること」や「私たちの指示どおりに動いてくれること」であることは言うまでもありません。しかし、これは人間相手であっても難しいことです。読者の皆さんにも、親や先生や上司から「これをしなさい」と言われたことを、うまくできなかった経験がおありだと思います。

しかし、機械にとって「言われたとおりに行動する」ことは、私たちの想像以上に難しいことです。以下では、いったい何がハードルになるかを見ていきましょう。