「AIは教えられたことをその通りにやります」

文章の自然さは、単語ごと、文節ごと、1文ごとに生成するかによっても変わるという。

「たとえば最近、グーグル翻訳の精度が格段に上がったといわれていますが、恐らく、これまで単語単位で訳していたのを、文単位で翻訳パターンを探していくかたちにしているのだと思います。もともとある程度完成度の高い文からパターンをとってきているので、自然な文を生成することができるわけです」

今回はプレジデントらしい記事にするためにプレジデントの記事のみを教師データとして用いたが、今後、他媒体やSNSなどいろいろなテキストデータを機械に学ばせることで、「この媒体ではこう書いている。一方で一般の人たちの中にはこういう意見もある」という記事を自動生成することもできるという。

「新聞や雑誌などの媒体は、右と左とか、媒体それぞれの色がありますよね。でも、AIなら政治的な思想やしがらみを忖度せずに、公平に世の中の意見をまとめて発信することができます」

ただ、“世の中の意見”を反映したAIが偏向的なメッセージを発信した前例がある。16年にマイクロソフトが開発したAIチャットロボット「Tay」は「人間と対話すればするほど賢くなるロボット」としてサービスを開始したが、ヘイト発言を連発し、開始から16時間でサービスを停止した。

「AIは教えられたことをその通りにやります。だから教える側の人間が公平な立場に立っていることが前提になります。まさに、子どもに対する親の教育と同じなんです」