はじめに

フェイクニュースとは、事実ではない情報を意図的に作成し、誤解や混乱を招く目的で広められるニュースのことである。なお、広義には誤解や無理解により広められる誤情報もこれに含まれる。このような情報は、社会や経済において深刻な影響を与えるとともに、信頼や判断力を損なう危険性を持つ。ビジネスインスピレーションメディアAMP[1]には以下のような状況がまとめられている。

金融市場への影響

特定の企業に関する虚偽の情報は株価を急落させ、投資家の信頼を損なうケースが報告されている。ある事例では、フェイクニュースにより1,390億ドル（約22兆円）が瞬時に失われた。

経済全体への影響

フェイクニュースによる世界全体の経済損失は少なくとも780億ドル（約12兆円）に達している。その多くは株式市場における損失によるものである。

健康や社会への影響

健康関連の誤情報はワクチン接種率の低下を招き、医療費の増加や社会的不安を引き起こしている。例えば、麻疹ワクチンに関する誤情報は米国で年間170億ドル（2.7兆円）の損失をもたらしている。

しかし昨今では、個人を標的とした誹謗中傷やAIによるディープフェイク技術を悪用した偽画像・動画の作成により、個人の名誉やプライバシーが侵害される深刻なケースも増加している。

インターネット上の違法・有害情報への迅速かつ適切な対応を通じて、より安全なオンライン環境の実現を目指している国内組織インターネット・ホットラインセンター（IHC）[2]の統計によると、通報を受理したうちのおよそ40％が「わいせつ電磁的記録記録媒体陳列」であったとのデータも公表されている。

フェイクニュースの種類と進化の状況

フェイクニュースは総務省のネットリテラシー教材[3]などから、その意図や内容によって表1の3つの種類に分類される。

【表1】フェイクニュースの分類
（出典：各種資料をもとに作成）

この分類において、「フェイク」「デマ」は悪意があり、「うわさ・勘違い」は悪意がないという違いがあるが、また同時に、これまでは発信者における“情報拡散の手軽さ”においても特徴があった。本格的にだまそうとするために、捏造するコンテンツ（画像や動画等）を作成するには、一定以上のスキルが必要で誰でもまねできるものではなかった。

しかし昨今、そうしたコンテンツ作成を容易に実現する生成AI系サービスの登場、およびスピーディかつ効果的にコンテンツの流布・拡大を実現するメディア（主にSNS）の定着によって、「誰でも、手軽に」行うことができるようになってしまった点は、大きな変化と言えるだろう（図1）。

【図1】フェイクニュースの種類別体系
（出典：筆者作成）

フェイクニュースの正体（なぜ、どこで、どうやって発生／拡散している？）

フェイクニュースの発生には、様々な要因が複雑に絡み合っていると考えられる。

• 技術的要因：インターネットやソーシャルメディアの普及により、情報の伝達スピードが加速し、真偽を確認する間もなく情報が拡散されるようになった。
• 心理的要因：人間には自分の既存の信念や価値観に合致する情報を受け入れやすく、反対に、それらに反する情報は拒否しやすい傾向（確証バイアス）がある。
• 経済的要因：フェイクニュースの中には、広告収入を目的として作成・拡散されているものも少なくない。

総務省の調査[4]によると、「直近の1カ月の間で、あなた自身が偽情報・誤情報だと思う情報をどのオンラインメディアで見かけたか？」の問いに対して、ほとんどの世代がSNSを最も多く挙げていた（図2）。

【図2】検索サービス、動画投稿・共有サービス等において、偽・誤情報を週1回以上見かけた割合
（出典：総務省「令和5年度国内街における偽・誤情報に関する意識調査結果紹介」
みずほリサーチ＆テクノロジーズ（2024年5月9日））

ソーシャルネットワーク（SNS）は、一般の利用者が容易に情報を発信できるため、偽・誤情報が拡散しやすい特性から、その頻度についての問いに対しても「SNS上では4～6割の利用者が週1回以上の頻度で偽情報に接触している」との結果も報告されているのが現状である（図2）。

またそのSNSだが、情報を手軽に共有できる利便性がある一方、

• アルゴリズムの影響：SNSプラットフォームではユーザーの関心を引き続けるため、エンゲージメントが高いコンテンツを優先的に表示する
• 拡散の容易さ：SNSでは、ユーザーのわずか数クリックで情報が共有される
• 信頼性の錯覚：フォロワーや知人からシェアされた情報は信頼性が高いと感じやすい
• 匿名性の高さ：SNSでは匿名性が高く、誤情報を意図的に広める行為の抑止力が弱い

など、フェイクニュースとの相性がよいことも指摘されている。日常的に活用している若年層は特に“情報の真偽確認に対する意識が低く”、“感情に訴えるコンテンツを共有しやすい”ため、フェイクニュースに自然と触れやすく、また拡散に関与してしまっている現状が推測される。

SNSプラットフォーム各社のフェイクニュース対策

前述のとおり、フェイクニュース拡大の媒体としての影響力が大きいと指摘されているSNSの各プラットフォームでは、以下のように様々なフェイクニュース対策を行っている。

Facebook（Meta）

• ウォールームの設置：選挙期間中に専用チームを配置し、リアルタイムでフェイクニュースを監視
• AI技術の活用：フェイクニュースやスパム投稿の検出アルゴリズムを強化

X（旧Twitter）

• ファクトチェック機能：ユーザー投稿の信頼性を評価し、正確性を補足する情報を表示
• AIによる分析：自然言語処理を活用し、フェイクニュースの検出を強化
• ユーザー教育：情報の吟味力を高める啓発活動を展開

TikTok

• ファクトチェック体制の拡大：世界中のファクトチェック機関と連携
• AI生成コンテンツのラベル付け：生成AIコンテンツの識別機能を導入
• メディアリテラシー啓発：ワークショップやライブ配信によるユーザー教育を実施

YouTube

• 信頼できる情報の優先表示：医療や科学分野における信頼性の高い情報を優先的に表示
• 誤情報コンテンツの削除：危険性の高い誤情報を積極的に削除
• 啓発キャンペーン：人気クリエーターを活用した「#ほんとかな？」キャンペーンを実施

一方、多くのSNSプラットフォームのトラフィック獲得により利益を得る仕組みが、偽情報の広がりを助長しているとも指摘されており、収益モデル自体の根本的改革にも取り組んでほしいところである。

主要各国のフェイクニュースへの対策

またフェイクニュースへの対応について、利用者からは国家による介入も求められている。先述の総務省の調査結果によると、「政府機関が偽情報にどのような姿勢で対応してもらいたいと思うか？」という問いに対して、「人々が情報を自由に公開でき、またアクセスすることを制限しても、オンライン上の虚偽情報を制限する措置を講じるべき」（41.1%）が他の国と同様、日本でもトップとなっていた。

こうした要望もあり、フェイクニュースへの対策は、プラットフォーム単位にとどまらず、国家レベルでも取り組まれている（表2）。

【表2】主要各国のフェイクニュース対策
（出典：各種資料をもとに作成）

この他、AIによって生成されたフェイクニュースやフェイク素材は国境を越えて拡散するため、欧州連合（EU）などは、AI規制案の中で国際協調の枠組みづくりも進めている。

テクノロジーと教育によるフェイク対策へ

ここまでフェイクニュースやフェイク素材拡散が社会に深刻な影響を与えていく可能性を記したが、同時に多くの機関や企業が、同じくAIを活用してフェイクニュースを判定／撲滅するためのツール開発にも取り組んでいる。実際に欧州の選挙では生成AIによるフェイクキャンペーンがツールによって早期に発見され、大きな被害を防いだ成功例もある。また最新の動きとして、ブロックチェーン技術を用いてニュースの発信源を追跡する試みや、AIが生成した画像や動画を識別するツールの開発など、技術面における改善への期待もまた大きい。

しかし、規制や技術だけでは十分ではないことは明らかである。利用者それぞれが信頼性の確認や複数の情報源の比較といった習慣を持つなど、フェイク情報への耐性を高める「情報リテラシー」向上が必要となる。それには、教育現場での情報リテラシー教育や、企業が従業員向けに研修を実施するなどの、社会全体でこのスキルの底上げを目指す取り組みが今後ますます重要になってくるだろう。