それらしい記事をスラスラ書くAIの恐怖 1万人に1万通りの情報を書き分ける

しかも、読み手の属性に合わせて、その考えや行動を変えるために最適化されたフェイクニュースを生み出す研究も行われているという。つまり、1万人いたら1万通りの文章をつくることも可能になってしまうのである。

生身の人間ならば、1万人の相手に1万通りのニュースを書きわけるのは不可能である。疲れを知らない人工知能ならばそれはもちろん可能だ。

さらに、ネット上に商品やサービスに関する大量のレビューを書くことも可能になる。褒める場合もけなす場合も、人間ではとても太刀打ちできない量の文章を撒き散らされたら、どうすることもできないだろう。

「文化」や「文明」を破壊する可能性

方向さえ与えられれば「それらしい」文章を大量生成できる。そんなシンプルな人工知能の能力が、よく考えれば私たちがネットで築き上げた「文化」や「文明」を破壊する可能性を持つ。

OpenAIはGPT-2の公開を中止したが、同じようなことをやろうとする人たちはこれからも出てくるに違いない。

ネット上に大量に溢れる文章が、人間によるものか人工知能によるものか判別できなくなったらどうなるか？　自然言語を処理する人工知能を人類にとって有益な方向で活用するために必要なことを、今すぐ考え始めるべきだ。