はじめに

第3次AI¹（人工知能）ブームと言われて久しいが、「AIを駆使したプロダクト」の研究開発が企業によって進められる一方、最近では「AI倫理」と言われるAIに関する研究、利活用等の各場面における倫理的配慮が求められている。現に社内で検討中の企業もあるのではないか。そこで、本稿では、その支援の意味も含め、公的機関等が出すAI倫理規程（規定）を概観したうえで²、最近相次いで公表される企業におけるAI倫理規程を取り上げる。できる限り文献、資料を引用しつつ、なぜAI倫理が必要なのか、政策動向はどうか、他社動向はどうか、という点を検討する。

さらに、2019年5月に、株式会社NTTデータ（以下「NTTデータ」という）が公表した「NTTデータグループAI指針」の策定経緯等について、策定に関与した担当者の方々にインタビューを行った。その概要とそこから得られる示唆を述べたい。一企業の取り組みであり、こうした指針の策定・公表へのプロセスは様々であろうが、今後の企業におけるAI倫理に関する指針の策定・公表に役立てば幸いである（本稿は2019年10月1日時点の情報に基づいている）。

Society5.0×AI×HRTech

政府が目指すSociety 5.0（サイバー空間とフィジカル空間を高度に融合させたシステムにより、経済発展と社会的課題の解決を両立する、人間中心の社会を指す）では、各種分野のビックデータをもとに、AIによる解析によって、様々な社会的課題の解決を図ろうとしている³。

一方で、負の側面も問題視されている。AIの利活用によって、既知の情報から、特定の人物の既知でない情報（趣味、嗜好、健康状態など）を推定し、将来の行動やリスク（購買行動、犯罪予測）を予測すること（プロファイリング⁴）の精度が増し、信頼性が高まったことから、企業でもその導入が進んでいる。ソフトバンク株式会社が2017年5月より、IBM Watson日本語版を利用して新卒採用選考のエントリーシート（ES）評価に活用しているのは好例であり⁵、これにより、人事担当者のES確認作業時間を75％軽減できるとされている。このような人的資源管理の最適化技術は“HR（Human Resource）Tech”と言い、2019年7月に日本経済新聞が5回にわたり連載特集をするなど注目を浴びている。

他方で、深刻なリスクとして、AI利活用によるプロファイリングが社会的差別や偏見を固定化させることが懸念されている⁶。この懸念に対し、GDPR22条1項では、完全な機械化・自動化プロファイリングを禁止し、異議申立権をデータ主体（識別された又は識別可能な自然人、GDPR4条(1)）に与えている。上記の新卒採用の際のAIを用いたES評価の例でも、最後は人事担当者がチェックしている旨報道されている。

日本でも、一部の研究者らによって、プロファイリングに関する提言がなされ⁷、また、2019年11月をめどに改正骨子が出ると報道されている個人情報保護法のいわゆる3年ごとの見直しにおいても、焦点の一つとなっている⁸。GDPRは個人データの自動処理を禁止するが、AIを用いたプロファイリング自体は禁止していない。AIをどう使うか、という点において、ハードローによる規制にはなじまず、原則として自由ということである。また、現状、ソフトローで規制するほどのコンセンサスが特定の業界や団体にあるわけではない。このような状況で、AI分野では、（最初は「ロボット」であるが）後述する表1のとおり、EUは「倫理」による規制を大々的に展開を始めた。日本におけるAI倫理の議論は、この流れの影響を受けている。企業が策定をしているAI倫理が、こうした政策動向を踏まえていることは明らかである。

最近では、ライフサイエンス分野において、研究・開発に際し発生する倫理的、法的、社会的課題をELSI（Ethical, Legal and Social Issues）と言い、日本では、2014年頃から国内外で議論が盛んになった。行政では、2016年に総務省がAIネットワーク社会推進会議を立ち上げるに至った。また、2019年7月、人工知能学会は、AI倫理や「社会とAIの関係性」に関わる活動を表彰する「AI ELSI賞」を創設するなど、ELSIはAI分野での注目度も高くなっている。

【表1】世界の主なAI倫理規程
（出典：芳田千尋「AI倫理に関する現状」UNISYS TECHNOLOGY REVIEW139号（2019）
84頁をもとに、筆者が情報を更新し、項目を追加）

公的機関・政府等のAI倫理規程

表1は企業がAI倫理規程を策定する際に参考にすべきと考える重要なものを時系列順に示したものである。2016年5月に欧州議会法務委員会が、2017年2月に採択された「ロボティクスに係る民事的規制に関する欧州委員会への提言」のもととなる草案を提出した。それ以前には、2014年9月に欧州委員会のRoboLawプロジェクトの中で、ロボティクス規制ガイドラインが出されている⁹。

詳細な諸外国の動向については、AIネットワーク社会推進会議の「報告書2019」²⁵にまとめられているので省略する²⁶が、AIと名がつく前の「ロボティクス」ガイドラインについては、ロボット、つまり自動化によって生じる事象に対して規制の必要性と、その際の権利と責任に関する記載が中心となっている。その後2016年以降に出された米国のホワイトハウスの「AIの未来に備えて」や「アシロマAI原則」、そして後述するGoogleのAI原則から、兵器利用に関する記述が見られるようになり、IEEEなどの学会においては、研究倫理の流れからAI倫理に関する記述が見られるようになる。

また、安全性の確保、AIのブラックボックス化を防ぐための、判断過程の説明責任、公平性確保について明記されている点、パーソナルデータ、プライバシーの保護についても言及されている点が共通項として挙げられる²⁷。

ただ、各国政府のAI指針は、国家戦略として名称は様々だが、“AI Strategy”という名目で策定されていることが多く、倫理規定はその一部として設けられていることが一般的である。その意味で、倫理にフォーカスし、しかも独立した指針やガイドラインが設けられることは一般的とまでは言えない。

しかし、最近では、諸外国のAI戦略を比較分析するレポートも出てきており、カナダのCIFAR（Canadian Institute For Advanced Research）が作成したレポートにおけるAI戦略のヒートマップによれば、Ethicsの項目が白（全くあるいはほぼ記載がない）になっているのは、取り上げている18カ国・地域中、日本、韓国、台湾の３つのみである²⁸。また、比較分析の評価値における共通項目は、研究（開発）、データ、人材（スキル）、倫理（社会）の4つであり²⁹、倫理はいずれのレポートでも共通していることがわかる。

企業におけるAIの倫理に関するルール

表2は、AIの倫理に関するルールを独立に設けている代表的な企業の一覧である。海外企業はAI倫理に関する議論をするうえで取り上げられる4社、日本では、話題になっている4社を挙げた。

表3は表2の日本企業のAI倫理に関するルールを比較分析した表である。

【表2】代表的な企業におけるAIに関する倫理規範
（出典：筆者作成）

注）〇：明示的記載があり／－：明示的な記載なし
【表3】各日本企業の倫理に関するルールの比較分析
（出典：各種公表文書より筆者作成）

比較する記載項目は、「AIガイドライン比較表」³⁸の主要構成を用いた。ルールへの記載項目という観点からすれば、各企業とも概ね共通しており、この記載項目を盛り込むことがデファクトスタンダードということであろう。ただ、いずれの企業ともAI間の連携に関する記載がない点が気になるが、これは想定されている標準必須特許等への対応は企業間の問題であることに起因すると思われる。また、記載がないからといって、企業として対応しないわけではなく、記載から解釈できる点については留意が必要である。

AI倫理「規程」とは異なるが、より広く個別案件の助言や提言を含めて外部の有識者に委ねる例もある。表2記載の富士通グループでは、「富士通グループAIコミットメント」の中で、「外部の識者等で構成される委員会を設置し、その客観的な評価を取締役会と共有する」との記載がある。また、AIの社会実装を手がける株式会社ABEJAは、2019年7月25日のプレスリリースにおいて、弁護士、学術、文化、報道の各分野の有識者によって構成される委員会「Ethical Approach to AI」(EAA)を立ち上げ、自社のAI利用原則・行動指針の策定を、現場のメンバーとの意見交換をしつつ目指すとしている³⁹。

さらに、AI先進企業が、技術者向けの倫理研修を実施し、AI利用状況に関する倫理委員会を設けている例もあり⁴⁰、AIに関する倫理規程の不存在が、直ちに何らかの影響を与えるものではない。しかし、最近では、AIシステム開発において、プロジェクト開始前に倫理を踏まえたAIの活用の仕方を（経営層を含めて）決めておくことの重要性が指摘されている⁴¹。

NTTデータグループAI指針

上記の有識者による委員会設置の報道は珍しい。自社のAIに関する指針・ガイドラインの策定には、様々なプロセスがあることが推察される。しかし、上記のように公開情報から指針などの策定経緯をうかがうことは難しい。そこで、NTTグループで唯一AIに関する指針である「NTTデータグループAI指針」（以下、本項では単に「AI指針」という）を公表したNTTデータの樋口晋也部長（技術革新統括本部 技術開発本部 企画部 企画戦略担当）と奥村弘太郎課長（事業戦略室 企画調査部 企画調査担当）にインタビューを行った。

このインタビューでは、1.AI指針策定の契機、2.AI指針策定のプロセス、3.AI指針の各記載事項の概要、4.AI指針公表に向けた準備、5.AI指針公表後の影響、ユーザからの反響、6.今後のAI指針のあり方、の６項目について重点的にお聞きした。以下はその要旨である（したがって、記載の誤謬等は筆者に帰属する）。

1. AI指針策定の経緯

総務省で2016年10月から始まった「AIネットワーク社会推進会議」⁴²や内閣府で2018年5月から始まった「人間中心のAI社会原則検討会議」⁴³において、岩本敏男社長（当時。現相談役）が構成員を務め、AIネットワーク社会推進会議の下に設置された開発原則分科会において、木谷強取締役常務執行役員が構成員を務めていた。そのため、NTTデータでは、幹部層のAIに対する感度が高い状態にあった。

このような状況の中、2018年6月にGoogleが “Artificial Intelligence at Google” を公表した。GoogleのAI原則は、2018年にGoogle従業員がAIの軍事利用に抗議して集団辞職した報道があったように、軍事目的でのAI開発について懸念があることへの対応という文脈である。

その後も、SAPがガイドラインを発表するなど、企業によるAI倫理に関する情報発信が広がりを見せ始めた。この頃から、NTTデータグループもAI指針を提示することで社会的な責任を果たす必要性があると強く認識するようになり、グローバルにAIを広く展開するSIerとして、独自の指針公表を決意した。

2. AI指針策定のプロセス

実際に、AI指針策定に着手し始めたのは、2018年度の第4四半期からである。AI指針の公表日は、2019年5月に定めた（実際には公表されたのは、同月29日）。世間では、G20大阪サミットが2019年6月28日、29日に開催され、それに先だち、貿易・デジタル経済大臣会合が同年6月8日、9日に開催されることになっていた。その時点でNTTデータのAI指針が何らかの形で公表されていないと、世界に対して存在感を示すことができないであろうという考えである。最初から、スタートとゴールが明確にあった。

AI指針の策定を担当したコア担当者は3人である。中身の検討は3人で行い、その結果について現場や常務に意見を求めてブラッシュアップをした。内容が固まった時点で経営会議や取締役会議などに諮り、最終的に完成させたというのが大まかな策定までのプロセスである。

もう少し詳細に述べると、AI指針を策定する前に、AI指針の検討範囲を正確に把握したいと考え、他社や諸外国の動向を調査した。また、NTTデータのビジョンからAI指針が導出された流れとすることにより、NTTデータとしての独自性も打ち出している。NTTデータのAI指針では、自社の特徴を出すために、AIに関連する部署（公共、金融、法人、AI＆IoTの各事業部、技術開発本部）にヒアリングをし、ビジネスの具体的内容や、製品の強みを確認し、AI指針に自社の特長を組み込めないかを検討している。また、法務的な観点から見ても問題がないかを確認し、海外のCTO（Chief Technical Officer、最高技術責任者）に対しても意見を求めている。

3. AI指針の各記載事項の概要

上記の「独自性」をどのようにしてAI指針に盛り込むか議論をしたが、結果的には、プレスリリースの「概要」⁴⁴のとおり、NTTデータが目指しているGroup Vision「Trusted Global Innovator」からAI指針を導出することにした。その対応関係が表4である。

また、前述したとおり、独自色を打ち出しながらも、AI指針の策定において検討漏れを防ぐため、「人間中心のAI社会原則」⁴⁵などの政府のAI倫理に関する政策のエッセンスを分析し、対応関係を表5のとおり整理した。

【表4】NTTデータのGroup Vision とAI指針の関係
（出典：公表資料をもとに筆者作成）

【表5】NTTデータのGroup Vision・AI指針と政策動向の関係
（出典：インタビューの内容をもとに筆者作成）

4. AI指針公表に向けた準備

公表に向けて、NTTデータの組織以外に意見を求めるという意味では、NTTの研究所に対し、ヒアリングを行っている。また、NTTデータの従業員は国内が3.7万人、海外が8.6万人であることや、グローバルでの積極的なビジネス拡大を目指している点から、英語での公表も同時に行うことが当初より決まっていた。そのため、日本国内で英訳を行い、AI指針の各項目の意味を、ニュアンス等を含めて詳細に海外グループ会社に対して説明したうえで、それがAI指針の英訳に反映されているか、意見を求めて調整し、最終的には同時に公表をした⁴⁶。

5. AI指針公表後の影響、ユーザからの反響

公表の日に記事が日本経済新聞⁴⁷に掲載され、その他電経新聞⁴⁸にも掲載されている。また、ネット記事についてもIT Leaders⁴⁹、IoTNEWS⁵⁰、事業構想オンラインニュース⁵¹などに掲載された。

AI指針の公表後、既に数社からインタビューを受けており、今回のインタビューと同様の内容を説明している。インタビューを受けた企業の中には、非IT企業もあり、AI指針への注目度の高さがうかがえた。

6. 今後のAI指針のあり方

AI指針を策定・公表をしたが、この指針だけで、実際のビジネスの具体的な規律になるものではないため、この理念を現場に落とし込むためには、より詳細なルールの制定が必要となることをNTTデータでは認識している。どこまでガバナンスを利かせるかは、政策動向等にも注意を払いつつ、前向きに検討をしているところである。

これらの検討にあたっては、お客様がそうしたAI倫理のガバナンスをどこまで求めているのか、が重要である。（ビジネスとして考えれば）詳細なレギュレーションを規定すれば安全性は高まるが、コストがかかり、開発期間が延びることになり、AIの性能にも影響する。この点も踏まえて総合的に検討する必要がある。

次の課題が、AI指針の見直しの要否についてである。AI技術の進展は早いため、AI指針について、必要に応じて見直す必要があると認識している。その見直しの体制は、何年ごとに行うといった時期的な区切りはないが、技術や社会の状況の変化に応じて適切に対応をする。見直しを行う際は、内閣府や総務省の検討会議の構成員としても参画しているので、そこでの議論なども踏まえることになる。

さいごに

NTTデータのAI指針の公表までのプロセスには、幹部が政府の検討会議の構成員という他の企業からするとやや特殊な事情が影響していることは否定できない。しかし、AI指針の必要性と、その内実を理解したうえで、AI指針の策定・公表を目指している点は、他の企業においても、重要な示唆を与えるのではないか。AI指針を策定する前段階で幹部層においてAI倫理の必要性を共有しておくこと、政策・他社動向を踏まえ、それをトレースするのではなく、自社のビジネスモデルや現場へのヒアリングをもとに策定すること、そして、公表後も一定の見直しを予定しておくこと、これらの体制を整えることの重要性がわかる。

また、有識者で構成される委員会を設置する会社の例も挙げたが、これからは、ステークホルダーの範囲はそれぞれであるが、企業が持続可能な事業を運営するうえで必要な、マルチステークホルダープロセスによって、ルールを策定するという、AI倫理に限定されない企業の営みが垣間見える。

本稿で挙げた事例や規程は限定的であるが、例えば、シンガポールの「AIのガバナンスと倫理のイニシアチブ」では、企業に対し、自主的な開発ルールを策定することが促されているように、今後は、AI倫理の策定が事実上、グローバルに展開する企業にとっては必要となってくる可能性もある。

謝辞

お忙しい中、取材に応じていただき、本誌への掲載をご快諾いただいた株式会社NTTデータの樋口晋也部長、奥村弘太郎課長に謝意を表したい。