生成AI時代におけるフェイクニュースとの向き合い方

はじめに
フェイクニュースとは、事実ではない情報を意図的に作成し、誤解や混乱を招く目的で広められるニュースのことである。なお、広義には誤解や無理解により広められる誤情報もこれに含まれる。このような情報は、社会や経済において深刻な影響を与えるとともに、信頼や判断力を損なう危険性を持つ。ビジネスインスピレーションメディアAMP[1]には以下のような状況がまとめられている。
金融市場への影響
特定の企業に関する虚偽の情報は株価を急落させ、投資家の信頼を損なうケースが報告されている。ある事例では、フェイクニュースにより1,390億ドル(約22兆円)が瞬時に失われた。
経済全体への影響
フェイクニュースによる世界全体の経済損失は少なくとも780億ドル(約12兆円)に達している。その多くは株式市場における損失によるものである。
健康や社会への影響
健康関連の誤情報はワクチン接種率の低下を招き、医療費の増加や社会的不安を引き起こしている。例えば、麻疹ワクチンに関する誤情報は米国で年間170億ドル(2.7兆円)の損失をもたらしている。
しかし昨今では、個人を標的とした誹謗中傷やAIによるディープフェイク技術を悪用した偽画像・動画の作成により、個人の名誉やプライバシーが侵害される深刻なケースも増加している。
インターネット上の違法・有害情報への迅速かつ適切な対応を通じて、より安全なオンライン環境の実現を目指している国内組織インターネット・ホットラインセンター(IHC)[2]の統計によると、通報を受理したうちのおよそ40%が「わいせつ電磁的記録記録媒体陳列」であったとのデータも公表されている。
フェイクニュースの種類と進化の状況
フェイクニュースは総務省のネットリテラシー教材[3]などから、その意図や内容によって表1の3つの種類に分類される。
この分類において、「フェイク」「デマ」は悪意があり、「うわさ・勘違い」は悪意がないという違いがあるが、また同時に、これまでは発信者における“情報拡散の手軽さ”においても特徴があった。本格的にだまそうとするために、捏造するコンテンツ(画像や動画等)を作成するには、一定以上のスキルが必要で誰でもまねできるものではなかった。
しかし昨今、そうしたコンテンツ作成を容易に実現する生成AI系サービスの登場、およびスピーディかつ効果的にコンテンツの流布・拡大を実現するメディア(主にSNS)の定着によって、「誰でも、手軽に」行うことができるようになってしまった点は、大きな変化と言えるだろう(図1)。
フェイクニュースの正体(なぜ、どこで、どうやって発生/拡散している?)
フェイクニュースの発生には、様々な要因が複雑に絡み合っていると考えられる。
- 技術的要因:インターネットやソーシャルメディアの普及により、情報の伝達スピードが加速し、真偽を確認する間もなく情報が拡散されるようになった。
- 心理的要因:人間には自分の既存の信念や価値観に合致する情報を受け入れやすく、反対に、それらに反する情報は拒否しやすい傾向(確証バイアス)がある。
- 経済的要因:フェイクニュースの中には、広告収入を目的として作成・拡散されているものも少なくない。
総務省の調査[4]によると、「直近の1カ月の間で、あなた自身が偽情報・誤情報だと思う情報をどのオンラインメディアで見かけたか?」の問いに対して、ほとんどの世代がSNSを最も多く挙げていた(図2)。

【図2】検索サービス、動画投稿・共有サービス等において、偽・誤情報を週1回以上見かけた割合
(出典:総務省「令和5年度国内街における偽・誤情報に関する意識調査結果紹介」
みずほリサーチ&テクノロジーズ(2024年5月9日))
ソーシャルネットワーク(SNS)は、一般の利用者が容易に情報を発信できるため、偽・誤情報が拡散しやすい特性から、その頻度についての問いに対しても「SNS上では4~6割の利用者が週1回以上の頻度で偽情報に接触している」との結果も報告されているのが現状である(図2)。
またそのSNSだが、情報を手軽に共有できる利便性がある一方、
- アルゴリズムの影響:SNSプラットフォームではユーザーの関心を引き続けるため、エンゲージメントが高いコンテンツを優先的に表示する
- 拡散の容易さ:SNSでは、ユーザーのわずか数クリックで情報が共有される
- 信頼性の錯覚:フォロワーや知人からシェアされた情報は信頼性が高いと感じやすい
- 匿名性の高さ:SNSでは匿名性が高く、誤情報を意図的に広める行為の抑止力が弱い
など、フェイクニュースとの相性がよいことも指摘されている。日常的に活用している若年層は特に“情報の真偽確認に対する意識が低く”、“感情に訴えるコンテンツを共有しやすい”ため、フェイクニュースに自然と触れやすく、また拡散に関与してしまっている現状が推測される。
InfoComニューズレターでの掲載はここまでとなります。
以下ご覧になりたい方は下のバナーをクリックしてください。
SNSプラットフォーム各社のフェイクニュース対策
主要各国のフェイクニュースへの対策
※この記事は会員サービス「InfoCom T&S」より一部抜粋して公開しているものです。
[1] https://ampmedia.jp/2021/01/13/fake-news-and-sdgs/
[2] https://www.internethotline.jp/file_preview/ InfoContents/1035/file/
[3] https://www.soumu.go.jp/use_the_internet_wisely /special/nisegojouhou/
[4] https://www.soumu.go.jp/main_content/000945 550.pdf
当サイト内に掲載されたすべての内容について、無断転載、複製、複写、盗用を禁じます。InfoComニューズレターを他サイト等でご紹介いただく場合は、あらかじめ編集室へご連絡ください。また、引用される場合は必ず出所の明示をお願いいたします。
調査研究、委託調査等に関するご相談やICRのサービスに関するご質問などお気軽にお問い合わせください。
ICTに関わる調査研究のご依頼はこちら関連キーワード
清水 栄治の記事
関連記事
InfoCom T&S World Trend Report 年月別レポート一覧
ランキング
- 最新
- 週間
- 月間
- 総合