2023.7.28 ITトレンド全般 InfoCom T&S World Trend Report

AIがネットにもたらす危機

Image by Tumisu from Pixabay

ChatGPT、Google Bardなどの対話型AIや、Midjourney、Stable Diffusionといった画像生成型AIが大きな注目を浴び利用が急速に広がっている。確かに、こうした生成AIは、使い方を間違えなければ非常に便利なサービスであり、企業活動の効率化を大幅に向上させ、日常生活の利便性も高めることが期待されるものである。しかしながら、生成される情報の信頼性やコンテンツの著作権の問題など、既にさまざまな問題が指摘され始めているのは周知のとおりだ。今回は、特にAIがインターネットにもたらす負の影響について考察し、その対処方法について考えてみたい。

2023年5月に広島で開催されたG7サミットでは、AIが主要議題の一つとして取り上げられ、共同声明では、「マルチステークホルダー型の国際機関を通じて、信頼できるAIのためのツール開発を支援し、マルチステークホルダープロセスを通じて、標準化機関における国際技術標準の開発及び採用を促す」とする一方で、「国や分野を超えてますます顕著になっているAIの機会及び課題について直ちに評価する必要性を認識」し、「ガバナンス、著作権を含む知的財産権の保護、透明性の促進、偽情報を含む外国からの情報操作への対応、これらの技術の責任ある活用といったテーマ」などについて議論するため、「関係閣僚に対し、生成AIに関する議論のために、包摂的な方法で、OECD及び人工知能グローバルパートナーシップ(GPAI)と協力しつつ、G7の作業部会を通じた、広島AIプロセスを年内に創設するよう指示する」とした。

民間においても、日本ディープラーニング協会(JDLA)が「生成AIの利用ガイドライン」を発表し、企業が生成AIの利用による機密情報の流出や著作権侵害のリスクを抑えるために注意すべき事項を示している。多くの企業も、組織内での利用について厳しく制限したり、監視したりするなどして対応しているところだ。

しかし、現実にはすさまじいスピードでAIの影響が多方面に広がっている。特にインターネットにもたらす影響は二つの点で深刻と考える。一つは、AIによって生成された不正確もしくは真実ではない情報が、あたかも正確もしくは真実の情報として氾濫することによる問題だ。そしてもう一つはインターネットを通じて提供される情報の正確性を担保するための情報ソースの確実性についてである。

一点目の問題は既にさまざまなところで焦点が当たっている。生成AIが不正確な情報をあたかも正確な情報であるかのように生成することは、一度AIを利用すれば誰でも認識するところだ。AIの幻覚(Hallucination)と呼ばれるこの現象は、単に学習データが古く最新情報にアップデートされていないことに由来するのではなく、AIモデルの限界として認識されていて、さまざまな手段で対策が試みられ改善はしているものの、確実には止めることのできない問題だ。実際に、現実には存在しない言葉、例えば、「軸索保有型対応方式」とは何ですか?などとChatGPTやGoogle Bardに聞いてみるとよくわかる。問題は、こうした不正確な情報が、さも正しい情報のようにインターネット上で提供され広まることにある。意図的にそうした情報を広めようとする動きも出てくるだろう。そうなると、もともと正確な情報だけではないインターネット上に、さらに多くの不正確な情報があふれることになる。

加えて、真実ではない情報、例えば特定の人物の偽画像や存在しない人物の画像などもAIを使って容易に作成されインターネット上に広がり始めている。神宮寺藍という名前を聞いたことがある方もいるのではないだろうか。こうした実在しない人物のSNSアカウントが注目を集めて、受け手によっては実在の人物として認識され、インフルエンサーとして社会に対して影響を及ぼし始めているのである。画像だけではなく、Deep Fakeと呼ばれる動画も簡単に作成できるようになり、政治的な意図を持って拡散されたり、犯罪に利用されたりなど被害は拡大しつつある。

こうして、不正確な情報や真実でない情報がインターネットやSNSで増殖し、ある程度リテラシーのある利用者もそのことを見分けられなくなると、インターネットに存在する情報の価値そのものが変質し始めてくる可能性がある。認証された企業のホームページなどの情報は除いて、匿名であることで発せられた情報や、市井の人の声が、インターネット上で不正確、あるいは意図的に操作された情報に埋もれてしまうわけだ。この数カ月の間に、生成AIによるチャットボットがあっという間に広がって、そこで生み出されたやり取りや画像が、大量にインターネットに流入している。ニュースサイトの信頼性レーティングなどを提供しているNewsGuard社の2023年5月のリリースによると、コンテンツのかなりの部分をAIが生成し、人の手でチェックや編集がされておらず、AIが生成したコンテンツであることが明記されていない信頼性の低いニュースや情報を提供するウェブサイトが既に125もある、とされている。こうしたサイトには、Google AdSenseなどによって広告も掲出されており、信頼性の低いサイトに広告主が広告費用を支払う事態にまでなっている。

さらに最近では、生成AIによる不正確な情報がインターネット上に広がることで、ChatGPTのようなLLM(大規模言語モデル)が学習に使うデータセットそのものに生成AIが作成した情報が入り込み、ますます不正確な情報を生成するようになるリスクも指摘されている。

結果的に、情報ソースが確実なものでない情報は、その価値が下がってしまうということなのだが、そうなるとインターネットで流通する情報の正確性を担保するためには、情報ソースの身元確認(Identification)が重要になってくる。そしてこれも、生成AIによって危うくなるリスクがあるというのが、二点目の問題である。個人間でやり取りする電子メールや、SNSのメッセージが、本当にその人からのものなのか、というのは、実は結構不確実だったりする。SNSは本人確認(認証)が前提となっているではないか、と思うかもしれないが、生成AIをもってすれば容易になりすましや詐称ができてしまうことも理解できるだろう。もっとも、個人間のやり取りであれば、直接電話をして話をして声を聞けば本人かどうかわかる(もっとも、それすら将来的には危うくなる可能性がある)。しかし、危険なのは悪意を持ってなりすましを試みる犯罪者が生成AIを駆使するリスクだ。現在、インターネット上で提供されるさまざまなサービスが、本人確認にeKYC(electronic Know Your Customer)を用いている。犯罪収益移転防止法施行規則第六条第一項第一号ホでは、本人確認用画像情報(写真付き本人確認書類の画像と容貌の画像)の送信によって本人確認することが規定されており、不正を防ぐために、容貌の画像については、横を向いたり瞬きをしたりという動作をさせることも行われている。しかし、AIを使えばこうした画像を生成することは簡単に可能で、悪意を持つ者が第三者になりすまして銀行口座などを開設するなどができてしまうのだ。

これらのリスクに対処するためにはどうしたらよいのか。今のところ、情報の正確性については、受け手のリテラシーを高め、情報ソースの確認できない情報は鵜呑みにせずに複数のソースから取得して信頼性を高めていくほかない。今後は、提供される情報が生成AIによるものかどうかを、やはりAIを使ってチェックするフィルターのようなものも登場してくるだろう。生成AIによる情報はすべて不正確ということではないが、相応の注意が必要だ。本人確認については、マイナンバーカードのような信頼できる第三者による本人認証を活用するのが最も近道で確実だ。マイナンバーについてはいろいろと問題が指摘されてはいるが、逆にこうした仕組みを活用しないことによるリスクも日々拡大していることは十分に認識すべきだろう。インターネットにある情報は全く当てにならない、とか、第三者になりすまされて大きな被害を受ける、といった世の中にならないように、官民挙げて対策を推進していくことが急務なのである。

※この記事は会員サービス「InfoCom T&S」より一部抜粋して公開しているものです。

当サイト内に掲載されたすべての内容について、無断転載、複製、複写、盗用を禁じます。InfoComニューズレターを他サイト等でご紹介いただく場合は、あらかじめ編集室へご連絡ください。また、引用される場合は必ず出所の明示をお願いいたします。

情報通信総合研究所は、先端ICTに関する豊富な知見と課題解決力を活かし、次世代に求められる価値を協創していきます。

調査研究、委託調査等に関するご相談やICRのサービスに関するご質問などお気軽にお問い合わせください。

ICTに関わる調査研究のご依頼はこちら

関連キーワード

出口 健 (Ken Deguchi)の記事

関連記事

InfoCom T&S World Trend Report 年月別レポート一覧

2024(17)
2023(91)
2022(84)
2021(82)
2020(65)
2019(70)
2018(58)
2017(32)
2016(26)
2015(26)

メンバーズレター

会員限定レポートの閲覧や、InfoComニューズレターの最新のレポート等を受け取れます。

メンバーズ登録(無料)

各種サービスへの問い合わせ

ICTに関わる調査研究のご依頼 研究員への執筆・講演のご依頼 InfoCom T&S World Trend Report

情報通信サービスの専門誌の無料サンプル、お見積り

InfoCom T&S World Data Book

グローバルICT市場の総合データ集の紹介資料ダウンロード