マイページ
「人間の文脈」を理解し始めたときに…
感情はない。だが、数字はある。
「でも、『そうやった方が、特定の指標（数字）を稼げるんだな』ということは学ぶかもしれません。たとえば、YouTubeで将棋のAI番組を作るとしますよね。その時、AIに『視聴率（再生数）を稼ぐこと』を評価指標として与えたとするじゃないですか。そうすると、AIは分析するわけです。『この一番大事な局面で、手が震えたのかな？ みたいな手を指した方が一番バズった』なと」
AIが、計算ずくで「震える手」を演じる？
「で、さらに学習が進むと、『でも、わざとらしいミスを二回連続でやったら、急に視聴率が下がったな。じゃあ、しょっちゅうやっちゃいかんのだな』とか『めちゃくちゃ大事な局面で、本当に稀にそうやったら、それが一番ハネるんだな』ということを分かった上で、やる……。そういう世界はきっとありますよね」
さらに恐ろしいのは、AIが人間の文脈を理解し始めた時だ。
「しかも、その頃には、AIは多分『説明するAI』になっているはずなので、自然言語を理解しています。だから、いろんなネットニュースとかを勝手に読んで、『なんかあの瞬間に足がもつれて転んじゃった○○さんが、アクセス数を稼いでいるな』みたいな話をインプットするわけですよ。そしたら、『なるほど、俺もやってみっか』となる。『視聴率を稼ぐことだけ』を評価指標に与えたら、それをやってもおかしくはないです」
見ている人がいないとAIは落ち込むのか
人間が条件を与えなくても、AI自身が勝手に「人間という存在はどうやらこういうことをすると喜ぶらしい」と考えて、勝手にやりだす時代が来るということだろうか。
「どこの段階で、そうなるかは分からないですけども……。『エンターテインメントとして人を惹きつけている状態というのは、数字が高い状態』ということだけを与えれば、それを実現するために様々な方法を勝手に取るというのは、もう当たり前になる時代が来ると思います。ひたすら自分たちの対戦だけで強くなるよりも、『棋譜を読んだ方が良くね？』『棋譜の中でちょっとズラして悪手を指す方が、なんかみんな見るよね？』『その後のSNSでのバズも多いよね』『ショート動画やリールの再生回数が増えることが俺の使命だ』みたいな状態で教えてあげたら、それをやり始めるかもしれないですね」
私は冗談めかして聞いた。見ている人がいないとAIが落ち込んだりもするようになるんですか？
「本当に落ち込んでいるかどうかは分からないですよ。僕に感情があるかどうかが小林さんからしたら分からないのと一緒で。今、僕が何も思ってなくて喋ってるかもしれないし、ヒヤヒヤしてるフリをしてただけかもしれないし。それは分からないじゃないですか。それと同じで、AIに感情があるかどうかは分からないんですけど、『感情豊かな時に、こういう仕草をするな』といったデータを学習して、そういった仕草をするといったことは、もちろん今もしてるし、あることだと思うんですけど」
