2021年には小室圭さんへの誹謗中傷が問題に
日本最大のニュースプラットフォームであるヤフーニュースにて、2023年2月末に「悪質な投稿者が半減した」というニュースが話題になった。この背景には、2022年11月にYahoo! JAPANが実施した、コメントの投稿に携帯電話番号登録を必須とした措置がある。
近年、ヤフーニュースコメント欄での誹謗中傷が大きな問題となっていた。記事で扱われている人物への攻撃が後を絶たないのだ。2021年には小室眞子さん・圭さんへの誹謗中傷が話題になったが、それ以前からヤフコメの誹謗中傷問題は何度も批判されており、報道もされていた。
Yahoo! JAPANは2007年からコメント欄を設けている目的として、利用者が多様な意見を共有しあい、新たな視点を得るきっかけを創出することとしている。しかし、誹謗中傷が溢れていてはその目的は達せられないだろう。批判が高まる中、以前からYahoo! JAPANは様々な対策を実施してきた。
AIによる対策で短絡的な罵倒は減ったが…
代表的なものに、建設的コメント順位付けモデルがある。これはAIによって、「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示させる技術である。
2018年から運用を開始し、2020年には本モデルを外部へ無償で提供し始めた。実際にコメント欄を見ていると、導入前と後では上位に表示されるコメントの質が異なっており、以前のように短絡的な罵倒が上位に来ることが激減した。
他に、AIを使って不適切なコメントを自動削除したり、不適切なコメントを繰り返し投稿したアカウントについては、それ以降の投稿ができなくなるよう投稿停止措置を行ったりしている。AIによって違反と判定されたコメント数などの基準に従って、記事単位でコメント欄を閉鎖する取り組みも2021年から導入された。
