偽情報への警戒心が薄い日本
一方、日本では、16年4月の熊本地震で「動物園からライオンが放たれた」、18年9月の沖縄県知事選で「玉城デニー候補の沖縄振興政策はまやかし」など、災害や選挙で偽情報が流布されたものの、影響は限定的で、大事には至らなかった。その背景には、日本語が障壁となって外国からの干渉を防いだともいわれる。
「国内外における偽・誤情報に関する意識2023年版」（みずほリサーチ＆テクノロジーズ）によると、「正しいかどうかわからない情報」について「情報の真偽を調べた」人の割合は、米国50％、フランス44％、英国38％、韓国28％に対し、日本は26％と最下位だった。偽情報でもなんとなく鵜呑みにする傾向が強いのである。それはだまされやすいとうことでもあり、巧妙な情報操作にあえば社会全体が容易に誤った方向に行きかねないリスクをはらんでいる。
つまるところ、総じて、偽情報に対する警戒心が薄かったといえる。
能登半島地震の大混乱で取り組みが加速
ところが、1月の能登半島地震で、偽の救助要請が拡散し、現場が大混乱に陥った。
情報通信研究機構（NICT）によると、地震発生後24時間以内にX（旧ツィッター）に投稿された救助要請のうち約1割が「実際には被害がないにもかかわらず救助を求める」などの偽情報だった。広告収入を得るために閲覧数（インプレッション）を稼ぐ目的で、虚偽内容を投稿したり、同一内容をコピペして新規投稿するケースが目立ったという。
情報の質よりも人々の注目を集めることが経済的利益を生むアテンションエコノミーという憂慮すべき事態で、閲覧数稼ぎのアカウントは「インプレゾンビ」と呼ばれ、、偽情報の拡散の元凶になっている。
このため、偽情報対策は喫緊の課題との理解が急速に進み、総合的な取り組みを加速させることになった。
これまで日本における規制は、メタ（旧フェイスブック）やX（旧ツィッター）などSNS事業者の自主的な取り組みに委ねてきたが、生成AIなどの新技術が次々に開発され、もはや事業者任せでは安心安全な情報空間が期待できないとの危機感が広がり、規制強化へ舵を切ることになった。いわば性善説からの決別と言える。
偽情報の規制強化は世界的な流れで、欧州連合（EU）が2月、事業者に幅広い義務を課し制裁金も科すデジタルサービス法（DSA）を全面的に運用開始したことも、方向転換を促した。
行政関与の強化を求めた有識者会議
まず動いたのが情報通信事業を所管する総務省だった。
憲法学者はじめIT専門家や弁護士などのメンバーによる有識者会議「デジタル空間における情報流通の健全性確保の在り方に関する検討会」（座長・宍戸常寿東京大学大学院教授）を23年11月に立ち上げていたが、能登地震後の年明けからは毎週のように集う異例のスピード審議で、偽情報に関してわが国では初めてともいえる体系的な論点整理を行った。