1．はじめに

2021年4月、欧米で相次いでAI（人工知能）に関する規制が出された。4月19日、米FTC（Federal Trade Commission）が、AIの利用に関するガイダンスを出した¹。特に目新しい指摘があるわけではない。AIモデルの構築にあたり、データセットに特定の情報を欠いたままにすれば差別的な結果が生じ得ること、そして、これを前提としたうえで、アルゴリズムがもたらすパフォーマンスに責任を持つことが重要であることなどが述べられている。

その2日後の4月21日、EUは、AIに関する包括的かつリスクベースアプローチに基づく「AI規制案（以下「AI規則案」）」²を発表した。AI規則案については、日本経済新聞のトップを始め、わが国でも広く報じられている³。

本稿は、「わが国におけるAI規制の受容」という観点から、最初にAI規則案を概観し、次に、このAI規則案がわが国においていかに報じられたのか、新聞報道を中心に取り上げ、最後に、昨今わが国において課題となっているAI社会実装の現状との関係から見た、今後の影響について見解を述べたい。

なお、本稿は2021年5月14日時点の情報に基づいている。

2．AI規則案の概要

2.1　内容

AI規則案のみに注目が集まるが、これは、同時に発表されたEUのAI政策パッケージ⁴の一部であり、位置づけとしては、2020年2月19日に公表された「AI白書⁵」の具体化である。AI規則案には、本文のほかに、AnnexesやQ＆Aがあり、関連団体も多様な意見を提出している。

そこで、現時点での全体像を整理すると、表1のとおりになる。

AI規則案の本文の構成は、表2のとおりであるが、それだけを見ても、およその概要が把握できる。そして、高リスクAIシステムの規制にその分量の多くが割かれていることがわかる。

【表1】AI規則案に関する文書とその概要
（出典：公表情報をもとに筆者作成）

【表2】AI規則案の構成
（出典：AI規則案をもとに筆者作成）

次に、全体像を概観したものが、以下の図1である。

【図1】AI規則案の全体像
（出典：経済産業省「第1回AI原則の実践の在り方に関する検討会」¹¹。）

適用範囲は、欧州域内に拠点がある事業者のみならず、欧州市場においてAIシステムやAIシステムに基づくサービスを提供する事業者にも及ぶ。さらには、AIシステムの出力結果が欧州域内で利用されるサービス事業者にも適用される規定があり（前文11、本文2条1項（a）参照）、一定の場合にはEU域内の代理人設置の義務も課される（前文56、本文25条参照）。

また、AI規則案では、禁止されるAIを運用した場合（5条）、高リスクAIシステムについて求められている開発要件違反（10条）には3,000万ユーロ又は全世界での前年度総売上高の6％の制裁金（71条3項）、それ以外の違反には、2,000万ユーロ又は全世界での前年度総売上高の4％の制裁金（71条4項）といった罰則が設けられている。

ただし、今回のAI規則案はEU理事会と欧州議会で今後審議されるが、既に産業界から反対意見も出ており、成立までの見通しは不明確である。

2.2　関連団体の意見

欧州データ保護監督官（EDPS）は、4月23日、新たなAI規則案が出されたことは歓迎しているが、駅などでの公共空間での遠隔生体識別についての規制が必要であると公表した¹⁰。

さらに、EU産業界は、否定的である。ICT関連産業団体のDIGITALEUROPEは、規則案公表の前日に、高リスクの定義を正確にする必要があること、GDPRの適用開始の時のように、中小企業やスタートアップにとって規則を遵守することにはコストがかかることなどの懸念を指摘し¹²、公表当日には、リスクベースアプローチは、歓迎するが、実装計画が、EUがグローバルAIのハブとして機能することにつながるか疑問であるという意見を公表している¹³。

また、機械工学、電気工学と電子工学、および金属技術部門にまたがり、77万の企業から構成される欧州技術産業団体Orgalimは、新しい技術には厳しい規制であり、イノベーションを阻害すると主張している。具体的には、規制のサンドボックス制度（53条参照）が設けられたこと、リスクベースアプローチによることを歓迎しつつも、法的安定性を確保する必要があり、その定義の明確化は、業界と共同して行い、必要に応じて調整する余地が求められること、AIシステムの定義を明確化する必要があることなどを声明で明らかにしている¹⁴。

他方で、市民団体は、さらなる規制を求め、規則案の方向性には賛同しつつも、高リスクAIには例外規定があり、技術の濫用の余地を残す可能性があること、公権力などへの規制は「リアルタイム」の法執行に限定していることなどを警告している¹⁵。

米国では、ITI（Information Technology Industry Council：情報技術工業協議会）が「最もリスクの高い」AIシステムを対象とした柔軟な規制となるように配慮してほしいこと、複数国間のルールの調和が求められることなどを指摘する¹⁶ほか、Business Software Allianceなども意見を出している¹⁷。

3．わが国でのAI規則案の受容
―新聞報道を中心に

3.1　AI規則案はいかに報じられたか

AI規則案がわが国において報じられたか、新聞報道を調査したところ、全国紙（日本経済新聞、朝日新聞、毎日新聞、読売新聞、産経新聞）だけでなく、地方紙においても報じられていた（調査は、データベース「日経テレコン」により、調査期間はAI規則案が公表された4月21日から4月23日までとした）。

報道した地方紙は、共同通信社の記事を、北海道新聞、東奥日報、岩手日報、河北新報、秋田魁新報、下野新聞、東京新聞、信濃毎日新聞（4月26日に社説でも取り上げている）、静岡新聞、中日新聞が取り上げている。ちなみに、全国紙において、GDPRが2018年に適用開始され、企業に多額の制裁金が科される可能性があると報道された時期が2016年1月であるが¹⁸、同時期に地方紙でこの話題を取り上げたものはなかったこととは対照的である。

内容面で特徴的なものは以下の2紙である。

筆頭は、最も大きく報じた日本経済新聞であり、4月21日のトップ記事として報じている。「EUが規制に踏み切る背景には中国がある」としつつ、AIのリスクへの対応はこれまで指針や原則などでの制限までであったことから、方針転換であるとしている。

読売新聞は、朝刊7頁において、「国際ルール作り主導」との見出しで、EUは日米欧の連携で世界共通のルール作りを主導したい考えであることを強調する。

なお、その他の全国紙は、夕刊で取り上げていた。

3.2　海外メディア

参考までに紹介すると、主な海外メディアの報道状況は以下のとおりである。

ニューヨークタイムズは、欧州がデータプライバシーなどの分野で既に世界をリードしてきており、諸外国もこれをモデルとしてきたが、最近は、米国バイデン政権も、政府高官としてテック業界に批判的なメンバーを就任させていること、英国は、業界を取り締まるための規制当局を創設していること、インドはソーシャルメディアの監視を強化していること、中国もAlibaba（阿里巴巴）やTencent（騰訊）のような国内の巨大テック企業を監視していることを挙げ、国際的なインターネットの仕組みと新技術の使用方法が変わる可能性があることを指摘する¹⁹。

次に、ロイターは、AIが独裁的な政府による社会統制のツールとして使用されることを規制することで、EUがAIシステム開発において、主導権を握るのに役立つ可能性があることを指摘する²⁰。

また、BBCは、AI規則案を概説した後、企業向けのAIシステム開発会社の代表者が、高リスクAIの定義が役に立たないほど曖昧であるなどと否定する意見と法律家が、強力な罰金を背景に規制をかける野心的な規制であると賛成する意見の双方を紹介している²¹。

4．わが国のAI政策への影響と展開
―AI社会実装に向けて

冒頭で述べたFTCのガイダンスは、「（AI技術が）善よりも害をもたらす場合、慣行は不公正である。」と端的に述べている。この言葉の裏には、FTC法5条により、欺瞞的な行為などは法執行の対象となることが含意されている。

しかし、国際社会の大半はAIシステムがもたらす差別などに対しては、前述のとおり、ガイドラインなどで対応している。GPAI（Global Partnership on AI）など国際連携の場面でも、これまでのAI原則を前提とした自主規制的なアプローチがとられている。

わが国でもAIに関する規制は、国際的なハーモナイゼーションを意識しており、法規制による対応ではなく、AI原則といったガイドラインレベルでの対応となっている。

公的機関のガイドラインでは、内閣府の人間中心のAI社会原則をトップに、関係省庁が様々な観点からAI原則を打ち出しており、その全体像は図2のとおりとなっている。

【図2】関係府省庁のAI関連の指針・原則・ガイドライン等俯瞰
（出典：内閣府「人間中心のAI社会原則会議（令和2年度第1回）」資料1より25）

また、企業においても、比較的規模の大きい企業が2018年から2020年にかけて、基本的なスタンスを示した自主的なガイドラインを定めて公表している²²。「AI原則」や「AI倫理」といった用語も頻繁に見かけるようになった²³。この状況に対し、慶應義塾大学の新保史生教授は、「非拘束的な原則やガイドラインであっても法整備において参照する原則として機能させ、法整備が実施されたあとの実効性を確保するための取り組みも含めた検討に移行すべき段階に来ているのではないだろうか」と指摘していたが²⁴、実際、現在は、そのとおりの段階となっている。つまり、ガイドラインや倫理的な規制が実装化に向かっているということである。

国際レベルでは、OECD AI専⾨家グループ（ONE AI）が、AIの分類、信頼性あるAIの実装、政府への勧告の実装のためのプラクティカルガイダンスの3つのワーキンググループを設け、社会実装に向けた取り組みも始まっている。

わが国でも、総務省のAIネットワーク社会推進会議が2020年7月21日にとりまとめた報告書は、副題が「『安心・安全で信頼性のあるAIの社会実装』に向けて～」となっており、目指すべき社会モデルを検討し、社会実装を加速させることが示されている²⁶。また経済産業省の前述図1の作成元である「AI原則の実践の在り方に関する検討会」は、2021年3月までの名称は「AI社会実装アーキテクチャー検討会」であり、1月には中間報告書を公表している²⁷。はっきりとAI原則は社会実装のフェーズに移行したことを示し、AIガバナンス（AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクトを最大化することを目的とする、ステークホルダーによる技術的、組織的、および社会的システムの設計および運用）のために、国際間、レイヤー間の連携が重要であるとする。そして、内閣府の「人間中心のAI社会原則」を最終目標として、各企業が自主的な取り組みを通じてそのギャップを埋めることが重要であるとした。

従前より、AIシステムの透明性を確保するため、AIによる意思決定を説明可能にするための可視化ツールキットは、開発され上市されていた。

2020年以降では、Googleの研究者らが、AI開発をEnd to endで可能にするためのアルゴリズムの内部監査フレームワークに関する論文²⁸を公表したり、Microsoftの研究者らが公平性確保のためのチェックリスト付きの論文²⁹を公表したりしたのが、一例である。

このAI原則の実践的な取り組みは、2021年になり、各企業でも目立って公表されるようになった。

図3のNTTデータにおけるAIガバナンスの取り組みはその一例であり、「NTTデータグループのAI指針」の理念のもとに、AIガバナンスを実現していることがわかる。また、ソニーは、「ソニーグループAI倫理ガイドライン」をベースにAI倫理委員会を設ける体制作りをしている³⁰。

【図3】NTTデータにおけるAIガバナンスの取り組み全体像
（出典：NTTデータウェブサイトより³²）

また、2021年1月、Rolls-Royce（ロールス・ロイス)は、産業界向けに活用できるように、AIの倫理と信頼性を確保するための包括的ツールキットを公表している³¹。

以上をまとめると、AIガバナンスに関する企業の取り組みでは、図3にもあるように、外部との接点を持ち（アドバイザリーボードの設置）、内部ではAI原則の理念をトップに、プロセスにおけるAI原則の実装化（営業を含めた人材研修、開発プロセスにおけるアルゴリズムの評価など）があり、最も基盤となる部分にAI技術の開発があって、ここでは、学習用データの活用の際のプライバシー保護、セキュリティといったAI原則が実装化されることが想定される。

5．若干の分析とまとめ

今後このAI規則案はどのように展開され、わが国へはどういった影響があるだろうか。AI規則案については、各種報道で、成立までのプロセスには時間がかかることが指摘されている。これは、その内容と適用された場合の影響の大きさ、前述の各業界団体から挙がっている懸念の声が影響している。

なお、前出の新保教授によると、「EUのAI規制が事実上の世界標準となる可能性が高い。これまでも、EUが提案した規制が、実質的に世界的なルール形成に影響を及ぼしてきた例は多い。独占禁止法、環境保護、労働、個人データ保護などの分野における影響と効果は顕著である」との見方³³もあり、これはEUのAI規則案がデファクトスタンダードになり、これまで、日本企業は、AI原則の実装化にあたり、政府のAI原則を目標としてきたが、その目標が変わり得ることを示唆している。

また、EUによるAI規則案提案の背景には、中国の脅威があることも指摘されている。わが国において、大きく報道され、議論の対象となっている背景については、プライバシー保護意識の高まりがあるのか、欧州政策がわが国に膾炙しているためなのか、グローバル企業が警戒をしているのか、といった仮説が立てられる。いずれにしても、GDPR対応に苦慮した企業からすれば、AI規則案がそのまま成立すれば、同様の事態になるため、脅威であることは否定できない。

私見では、上記の仮説は否定できないとしても、世界的なAI政策に日本政府が積極的に関与してきたことに加え³⁴、自主規制での取り組みが、政府規制（ハードロー）となることによって他国への牽制ともなり得る政治的なダイナミズムに驚愕や動揺をしているのではないかと推測している。

なぜなら、これまで、AIシステムに関する規制は原則として自主規制（ソフトロー）によっていたからである。わが国のAI原則の動向は、前述したとおり、国際協調路線をとり、ソフトローによる対応をするものであった。AIガバナンス、AI原則の社会実装は、それを前提としていた。EUにしてみれば、AI開発で世界をリードするためには、規制をしなければならないということであろう。

医療分野では、学問研究は第一義的には研究者の自立的な判断を尊重することが優先され、法的規制は謙抑的であることが建前となっている。これと比較するとわかりやすいが、AI規制がこれまで謙抑的であったのは、イノベーションを阻害する懸念があったからである。他方で、今回のAI規制案のプレスリリースは、信頼できるAIであることが優先されるとし、この規制により、欧州が保障する基本的権利も守られるというロジックである。AIシステムは人権を無視し、巨大な監視社会で運用したほうがより精度の高いシステムとなる。AI原則を国際協調で遵守しても、そうでない国があれば、その国でより一層のイノベーションが加速することとなる。その意味で今回のハードロー化は、EU加盟国以外への牽制があって初めて実効的となる。最終的には、加盟国のイノベーションを加速させることにもつながるだろう。そう考えると、AI原則の社会実装を志向しているわが国のAI政策は、欧州の今後の展開次第ではあるが、ソフトロー路線を維持するか否か、再考の時が来るかもしれない。