2024.5.30 法制度 InfoCom T&S World Trend Report

AI・ロボットとサイバネティック・アバターにおける新たな課題〜季刊連載第1回〜

Image by kiquebg from Pixabay

1 はじめに

情報通信総合研究所の皆様には大変お世話になり、2024年4月に全13回、1年以上にわたる「サイバネティック・アバターと法」の連載(以下「前回連載」という)を完走することができた。もっとも、この前回連載の内容はあくまでも同連載当時において調査することができた内容に基づき、当時の考えを暫定的に言語化したものに過ぎない。特に、前回連載第13回で述べたとおり、多数の課題について同連載では未検討である。

まだまだサイバネティック・アバター(CA)に関する研究がし足りない、新たな課題について研究したいという話を情報通信総合研究所の皆様にさせて頂いたところ、大変ありがたいことに、新たな課題のうち特に重要と考えるものについて、さらに研究を進めるための季刊連載をご了承頂いた。

そこで、今後は、季刊連載の中で、可能な限り、同課題について検討していきたい。

2 AI・ロボットとサイバネティック・アバター

(1) アバター社会とAI社会の同時到来

筆者はAIに関する実務と研究を行っているが、まさにAI社会として日常生活や業務にAIが組み込まれる時代の到来を実感している。広く利用されているサイトでは各種の情報がAIで処理されているし、今後は、ますます多くの業務がChatGPT等のようなAIを利用して遂行されるようになる。

その中で、アバター社会も同時に到来しており、例えば、多くの人がアバターを利用したゲームを楽しむ等、アバターの利用が日常生活に入り込みつつある。

このような時代においては、AI法の問題とアバター法の問題をバラバラに考えるのではなく、それらを統合して検討していく必要がある。

(2) 重要な2つの問題

このような観点からすると、具体的には2つの問題が重要と思われる。1つ目はAIとCAの問題である。特にAITuberといわれるように、AIを利用してアバターを運用することは増加している。このような「中の人」がAIである場合の法律問題について議論することが重要である。2つ目はロボットの問題である。いわゆる身代わりロボットは典型的なCAであるところ、そのようなロボット法1とアバター法(前回連載第13回第1参照)の間の融合問題を検討することも重要であろう。

(3) 前回連載第13回の議論を発展させるものであること

なお、前回連載第13回第2・1においてAITuberの問題について既に検討を開始しており、また、前回連載第13回第2・7においてロボットの問題については既に触れられている。そこで、本稿では、これらの前回連載第13回の議論を発展させることから、必然的に内容面において一定の重複があることにつきご容赦頂きたい。

3 AIとサイバネティック・アバター

(1) アバターにおけるAIの利用

ア 様々なAIの利用

アバターに関するAIの利用としては以下のとおり様々なものが考えられる2。即ち、AIは様々な形でアバターに利用されるのであって、一口に「アバターとAIの法律問題はこれである」と総括することは到底できるものでない。そのような中で、できるだけ重要な論点を以下で検討していきたい。

なお、アバターの様々な活動内容をログを取ってAIで分析するプロファイリング等の問題については前回連載第4回を参照されたい。

イ アバターを画像生成AIにより生成する

元絵作成、元絵の3D化等様々なアバターにまつわる画像を画像生成AIで生成することは、2022年夏頃から実用的な画像生成AIが提供されるようになったことをきっかけにますますポピュラーになっている。

ウ アバターの言動をAIで制御する

AITuberが典型的であるが、アバターの中に人がいるのではなく、いわば「中の人」をAIにやらせることも増加している。

エ 人間を再現する

AI美空ひばり3、マツコロイド4等、人間再現プロジェクトも行われている。

(2) 画像生成AIとアバター

画像生成により、アバターと知財の問題(前回連載第9、10回参照)が生じ得るところ、本稿執筆時点(2024年5月時点)において、既に「AIと著作権に関する考え方について」5が公表されており、「AI時代の知的財産権検討会中間とりまとめ(案)」6も公表されている。

この中で注目すべきは法律が果たす役割とそれ以外の役割の関係であろう。即ち、以下の図1のとおり、法だけではなく法・技術・契約が相互補完関係となり、技術的な措置や契約による対価還元等の方法で関係者がwin-winになるようなAIと知財の在り方が期待される7

【図1】AIと法・技術・契約の関係

【図1】AIと法・技術・契約の関係
(出典:AI時代の知的財産権検討会「AI 時代の知的財産権検討会中間とりまとめ(案)」)

メタバースにおけるアバター作成に特化した学習を行う場合において、例えば、①法的には著作権法30条の4に基づき一定範囲で著作権者から許諾を得ることなく学習できるし、実際に真似たいのは作風等に限られるという意図であっても、結果的に、学習対象の元データの表現の本質的特徴を直接感得できるアバターが生成されてしまう可能性は否定できず、例えば、生成段階において著作権侵害となる可能性がある8、また、②優れたアバター作成の学習に利用したい作品については、自動収集プログラムによる収集拒絶等の技術的措置が講じられている、そこで、③学習だけではなく当該学習結果に基づくアバター生成も含めて許諾を受けた上で対価を還元することで、よりよいデータを学習し、また、著作権の観点からもユーザーが安心してアバターを生成・利用できるといったエコシステムを生み出すことが可能かもしれない。

このような形でクリエイターがAIによって正当な還元を受けながらその創造性を発揮し、また、AIの性能も高まることで、生成AI登場以前よりもより多様な、(アバターを含む)優れた作品が創作される時代の到来を期待したい9

(3) AITuberその他のAIによるアバターの言動の制御

ア AITuberとは

AITuberとは、バーチャルの身体を用いたAIが配信するYouTuberである10。人間の「中の人」が直接にやりとりを行うのではなく、AIを利用して発話や例えばファンとのやりとり等の対話を行う。

AITuberには様々な仕組みがあるが、YouTubeのコメントの文字列を取得し、これをもとに生成AIを利用して返答を作成し、その返答を音声として発話する方法は、有力な方法の一つである11

この方法の採用によって、ファン(視聴者)との対話が可能となり、ファンとの対話を通じてAITuberがレベルアップしていく。そこで、ファンがいわばAITuberを「育成」しているという感覚を持ち、ファンのロイヤリティーを確保しやすくなる等、メリットが大きい。とはいえ、例えば、コメントの数が増えてくると、大量のコメントが流れてくる中でどのように対応するか、スパムコメント等のコメントのうち直接反応しないことが望ましいものに対してはどのように対応すべきか等、様々な課題もあり、ある意味では、「腕の見せ所」であろう。

イ AITuber等のAI制御アバターに関する法的権利義務の帰属主体

AITuber等のAI制御アバターには「中の人」の代わりにいわば「中のAI」が存在する。そしてAIは現行法上権利帰属主体とはならないところ、「中の人」がいないのだから誰にも権利が帰属しないのではなかろうか。

この点については、そもそもAITuber等のAI制御アバターを作成し、運用する自然人又は法人が存在するところ、そのような開発者、運用者等の「背後者」が特定のプログラム(又はプロンプト)を利用してAIに配信を指示している。例えば、「蛍という名前の16歳の女子高生で寝ることと夜の散歩が趣味で、お寿司が好きだがなすが嫌い、思いやりがあるが優柔不断でおっちょこちょい」12というような特定のキャラ設定に基づき、YouTubeのコメントに対する回答をするように指示することになる。当該背後者がそのような設定をして、AIに回答を指示している以上、具体的な回答を背後者として想定できない13としても、なお背後者への帰属を否定できないだろう。そこで、以下では甲という背後者がAITuber乙を作り、乙が視聴者のコメントに応じて対話をし、その様子が配信される場合を念頭に検討をしてきたい。

もちろん、将来的には、背後者のコントロールを完全に超えたところで、AIが配信を続けたり、メタバースでコミュニケーションを続けたりする場合はあり得るだろう。例えば、自動的にメタバースでコミュニケーションを続けることが設定されたアバターの背後者が死亡し、相続人も存在しないという場合には、理論的にはこのアバターとの関係で生じ得る権利義務は最終的には国庫に帰属する(民法959条)ということになり得るが、実務上は誰も背後者がいない中でまるで人間が中にいるかのようなコミュニケーションを行うアバターが活躍する時代が来る可能性がある以上、このような、単純に「背後者に権利・義務が帰属する」というだけでは解決しない問題についてさらに検討することが必要である。

ウ AITuberのAI制御アバターが加害者になる場合

(ア) はじめに

では、AITuberが加害者になる場合具体的に背後者にどのような責任が発生するのだろうか。

まず、名誉毀損を代表例として、対話の中で自然に発生する発言が加害行為となる場合について説明した後(イ)、悪意ある第三者の攻撃の結果の場合について説明し(ウ)、対策についても述べる(エ)。

(イ) 対話の中で自然に発生する発言が加害行為となる場合――名誉毀損を例に
a 事例

例えば、コメントをするファンAが「Bに殴られた」と発言し、背後者甲が作り出したAITuber乙が、上記イにおいて述べたキャラ設定に伴いその「思いやり」精神を発揮して「そうだったんですね!殴るなんてBさんひどいですね、お怪我はないですか?」と回答した場合に、BはかかるAITuber乙のコメントをもって、甲がBに対する名誉毀損を行ったと主張できるだろうか。

b 社会的評価低下

そもそも名誉毀損が成立するには、当該コメントがBの社会的評価を低下させなければならない。Bは、乙がその回答を通じて、BがAを殴っていたという事実摘示と、それに対する「ひどい」という論評を行い、それによってBの社会的評価を低下させたと主張するのだろう。これに対し、甲はAITuber乙の回答はあくまでも大規模言語モデルがAのコメントを踏まえて次に来る可能性の高い単語をつなげているだけであって、そもそも事実摘示や論評ではなく、また、仮にそれが事実摘示や論評であっても、「AITuber乙」と表示しているとおり、一般読者はそれがAIが紡ぎ出したものだと知っているので、それによって社会的評価は低下しないと主張するだろう。この点については現時点で直接判断された裁判例は見当たらないものの、以下のことは言えるだろう。

まず、いわゆる「東スポ」の抗弁と呼ばれる論点が問題となった事案において14、裁判所はスポーツ新聞における芸能レポーターの連載欄は、社会的事象を専ら読者の世俗的関心を引くようにおもしろおかしく書き立てるリポート記事を掲載する欄であるとの世人の評価が定着しているものであって、読者はその記事を真実であるかどうかなどには関心がなく、専ら通俗的な興味をそそる娯楽記事として一読しているのが衆人の認めるところであるとして、名誉毀損を否定した。しかし、この事案では、控訴審でスポーツ新聞側が逆転敗訴した15。そこで、単に一般に信用性が低いとされている、というだけで一切名誉毀損の問題とならない訳ではない。

また、絶対的ではないものの、仮定的言及は社会的評価低下を否定する方向の要素である16

すると、あくまでもAが述べた事実が正しければ、という仮定の下の発言に過ぎず、信用のおけないAIがそのようなBのコメントに基づき自動生成しているということを踏まえれば、Bの社会的評価低下にまでは至らないという判断もあり得る17。ただ、当然のことながら、中に人間が存在するVTuberによる名誉毀損と同様に社会的評価が低下すると評価される可能性もある。

c 抗弁

ここで、事実摘示による名誉毀損に対する抗弁としては真実性相当性の抗弁が考えられる。また、意見・論評による名誉毀損に対する抗弁については、公正な論評の法理において前提事実に関する公共性・公益性・真実相当性に加え、意見・論評としての域を逸脱していないかが問題となる。

d 公共性

まず、摘示事実(又は前提事実)に公共性が必要であるところ、公共性は客観的なものであるから、例えば犯罪等の内容であれば一般には公共性が認められる。

e 公益性

次が、公益性であり、人間ではなくAIに公益性、即ち、専ら公益を図る目的に出たという主観が認められる18かは重要な問題である。この点については、公共性が存在することから、特段の事情がない限り公益性が認められると推認することができるとする一連の裁判例が存在する19。そこで、公共性のある事実に関する発言であり、特に公益性を否定するような目的がないとしてAIの発言についても公益性を認める余地はあると思われる。但し、AIに主観はないとして、なお公益性を否定する考えも存在し得るだろう20

f 真実性

さらに真実性はまさに当該摘示された重要な事実について真実性があるかであるから、客観的なものであって、BがAを殴った事実があるのかが問題となる。

g 相当性

問題は、相当性であり、例えば実際にはBがAを殴った事実はなくても、Aの説明を信じた等として相当性を主張することができるのだろうか。まず、判例上相当性としては確実な資料・根拠に基づくことが求められ、合理的根拠や詳細な裏付け取材等が必要とされている21。そうすると、単にAがそう述べた、というだけでは相当性は認められにくい。加えて、相当性が過失に関する主観的要素と解されている22ことに鑑み、AIに過失はあり得るかという論点も出てくることだろう23

h 公正な論評の法理(意見ないし論評としての域の逸脱)

「ひどい」についてはこれが意見・論評であれば、公正な論評の法理が問題となる。ここで、前提事実の公共性・公益性・真実相当性については、上述のとおりであるから再論しない。固有の要件として、意見・論評としての域を逸脱していないかが問題となるところ、一般には穏当ではなくとも、配慮に欠けても、ややいきすぎた面があってもただちに意見ないし論評としての域を逸脱したものとはならないことから24、単に「ひどい」というだけであれば、意見ないし論評としての域を逸脱したものではないとして公正な論評の法理が適用される可能性がある。

とはいえ、なぜ意見・論評であれば、公正な論評の法理が適用され、事実摘示よりも、容易に抗弁が成立するかといえば、「意見ないし論評については、その内容の正当性や合理性を特に問うことなく、人身攻撃に及ぶなど意見ないし論評としての域を逸脱したものでない限り、名誉毀損の不法行為が成立しないものとされているのは、意見ないし論評を表明する自由が民主主義社会に不可欠な表現の自由の根幹を構成するものであることを考慮し、これを手厚く保障する趣旨によるものである」25とされていることに留意が必要である。つまり、意見ないし論評を表明する自由が民主主義社会に不可欠な表現の自由の根幹を構成するということから、意見論評についてインセンティブを与え、思想の自由市場にできるだけ多くの意見・論評が投入されることを期待しよう、という趣旨から意見・論評が手厚く保護されており、それが公正な論評の法理の基礎として存在すると解される。

そして、まさにAIによるデータがインターネットを汚染していると批判されている。例えば、AIによって生成された空虚なブログ記事等が大量にアップロードされ、検索結果の「ノイズ」として作用している。このようなノイズは、リサーチ等に悪影響を与えるだけではなく、インターネット上の情報で学習することが多いAIの精度の低下さえをもたらし得る26。すると、AIによるデータを生成すること自体は自由だが、それがインターネット上等において公開されることを本当に奨励すべきか27、ということは別論であろう。もしかすると、AIが生成する意見・論評については、少なくとも上記のような「民主主義社会に不可欠な表現の自由の根幹」という趣旨まではあてはまらず、現在の公正な論評の法理のような保護は与えられない、ということになるかもしれない。

(ウ) 悪意ある第三者の攻撃の結果の場合

ここで、スパムコメント等を利用して変な発言をさせようとする悪意のある第三者による攻撃を受け、その結果として乙がおかしなコメントをしてしまうことがある。例えば、古くはTay事件と呼ばれる、MicrosoftのChatBotが悪意あるユーザーによって、反ユダヤ主義等に汚染され、反ユダヤ主義の問題発言を繰り返し、運用停止に追い込まれた事案がある28。このような悪意ある第三者の攻撃はAI Tuberの場合においても発生し得る29

このような場合、基本的には、悪意ある第三者の攻撃により誤った学習をしたとしても、結果的にAITuber乙がそのような発言をしたのであれば、第三者の攻撃だからというだけで責任を回避することは容易ではないように思われる。

あり得るとすれば、不法行為には故意・過失が必要であるところ、背後者として必要な注意を尽くしていたという、背後者の無過失の抗弁ではなかろうか。この点については(エ)で検討する。

(エ) 対策と故意過失

AIが(イ)や(ウ)の事例において問題のある発言を回避するための対策としては、どのコメントを対話(応答)の対象とするかというコメントの選択の点において問題のあるコメントをはじくようにし、また、どのような発言をさせ、また、させないかという点に関するシステムプロンプトの設定において、例えば問題ある発言をしないようなネガティブプロンプトによる指示等を行うことが考えられる30

そして、この点は甲の不法行為責任(民法709条)との関係での過失の有無とも関係する。つまり、甲としては、平和な設定のAITuber乙が名誉毀損発言をするとは全く想像もしておらず、責任はないと主張するかもしれない。しかし、名誉毀損の不法行為(民法709条)は過失でも生じるところ、AIがそのような名誉毀損発言をするリスクは十分に想定される以上、それを回避するために通常必要とされる対応を行うことで、名誉毀損等AITuberが加害者となる状況を回避すべきであったのであり、当該適切な対応のための注意を尽くしていなかった以上過失があるとされる可能性は高いように思われる。逆にその時点で相当とされる水準のシステムプロンプト対応等を行っていたが、予想外の事態が生じたため問題のある発言をした、という場合には無過失の主張の余地があるように思われる。

InfoComニューズレターでの掲載はここまでとなります。
以下ご覧になりたい方は下のバナーをクリックしてください。

4 ロボットとサイバネティック・アバター

5 おわりに

※この記事は会員サービス「InfoCom T&S」より一部抜粋して公開しているものです。

  1. ウゴ・パガロ著・新保史生ほか訳『ロボット法』(勁草書房、2018)参照。
  2. なお、メタバース一般におけるAIの利用の例は、関真也「新しい世界『メタバース』の法的問題第1回」法律のひろば2023年12月号85-87頁も参照のこと。
  3. 「『AI美空ひばり』に賛否 故人の「再現」議論の契機に」東京新聞(2020年2月4日)<https://www.tokyo-np.co.jp/article/7226>(2024年5月10日最終閲覧、以下同じ)
  4. 石黒浩ほか「アンドロイドメディアの可能性とマツコロイド」デジタルプラクティス8 No,1(2017)<https://www.ipsj.or.jp/dp/ contents/publication/29/DP0801-S01.html>
  5. 文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」(2024年3月15日)<https://www.bunka.go.jp/seisaku/ bunkashingikai/chosakuken/hoseido/r05_07/pdf/94024201_01.pdf>
  6. AI時代の知的財産権検討会「AI時代の知的財産権検討会中間とりまとめ(案)」<https://www.kantei.go.jp/jp/singi/titeki2/ai_kentoukai/gijisidai/dai7/siryou1.pdf>
  7. 同上67頁。
  8. 文化審議会著作権分科会法制度小委員会・前掲注5)5(2)(イ)②参照。
  9. この点については筆者が関与した日本SF作家クラブ「現状の生成AI技術に関する、利用者、運用者、行政・立法、開発・研究者へのSF作家クラブの提言」(2023年10月14日)<https:// sfwj.jp/news/statement-on-current-generative-ai-technologies-japanese-edition/>も参照。
  10. 阿部由延『AITuberを作ってみたら生成AIプログラミングがよくわかった件』(日経BP、2023)11頁。
  11. 同上20頁以下参照。
  12. 同上34頁。
  13. 例えば、「こんにちは」というYouTubeのコメントに対し「こんにちは」と答えるかもしれないし、「今日は眠いからもう寝るね、おやすみ〜」と答えるかもしれない。
  14. 東京地判平成4年9月24日判時1474号77頁。
  15. 東京高判平成5年9月31日判時1474号76頁。
  16. 松尾剛行=山田悠一郎『最新判例にみるインターネット上の名誉毀損の理論と実務 第2版 [勁草法律実務シリーズ]』(勁草書房、2019)119頁。
  17. 特に、AIが生成する回答を何ら人間がチェックせずに流しているだけのAITuberだということを明確にしていて、一般読者として、それがAIによるある意味では「無意味な」回答に過ぎないと理解していれば、そもそもBの社会的評価を低下させない、という場合もあるように思われる。
  18. 松尾=山田・前掲注16)216頁。
  19. 前同。
  20. なお、ここでは乙の主観が問題となっているのではなく、本来は甲の主観が問題となっているはずであり、そうであれば、甲という人間には主観はあるはずである。
  21. 松尾=山田・前掲注16)250頁。
  22. 同上24頁。
  23. この点は、公益性とパラレルに考えることができる可能性がある。
  24. 松尾=山田・前掲注16)307頁。
  25. 最判平成16年7月15日民集58巻5号1615頁。
  26. 勝村幸博「生成AIのデータがインターネットを汚染、基盤モデルを崩壊させる『再帰の呪い』」日経XTECH(2023年7月26日)<https://xtech.nikkei.com/atcl/nxt/column/18/00676/072300140/>
  27. インターネット上に公開されなければ名誉毀損との関係では公然性が否定されることも少なくないだろう。
  28. Asha Barbaschow「差別主義者と化したAIボット『Tay』からマイクロソフトが学んだこと」CNET Japan(2019年7月29日)<https:// japan.cnet.com/article/35140462/>
  29. なお、既にホロコースト否定発言等でAITuberがアカウント停止処分を受けた事案はあるが、これは第三者の攻撃ではないようである。Sayoko Narita「AIのVTuber『Neuro-sama』がTwitchからBAN処分されたと開発者が報告。ホロコースト否定など危険発言連発系美少女ストリーマー【UPDATE】」AUTOMATON(2023年1月12日)<https://automaton-media.com/ articles/newsjp/20230112-233413/>
  30. なお、生成AIがシステムプロンプトによって一定の事項を一切話題にしないことが、言論の自由に悪影響を与えるという議論もあるものの、これは生成AIモデルの話であり、当該モデルを利用したAITuber等の個々のプロダクトとは異なる話と思われる。Jacob Mchangama & Jordi Calvet-Bademunt, Report: Freedom of Expression in Generative AI – A Snapshot of Content Policies, THE FUTURE OF FREESPEECH(March 1, 2024)<https://futurefreespeech. org/report-freedom-of-expression-in-generative -ai-a-snapshot-of-content-policies/>

当サイト内に掲載されたすべての内容について、無断転載、複製、複写、盗用を禁じます。InfoComニューズレターを他サイト等でご紹介いただく場合は、あらかじめ編集室へご連絡ください。また、引用される場合は必ず出所の明示をお願いいたします。

情報通信総合研究所は、先端ICTに関する豊富な知見と課題解決力を活かし、次世代に求められる価値を協創していきます。

調査研究、委託調査等に関するご相談やICRのサービスに関するご質問などお気軽にお問い合わせください。

ICTに関わる調査研究のご依頼はこちら

関連キーワード

松尾 剛行の記事

関連記事

InfoCom T&S World Trend Report 年月別レポート一覧

2024(46)
2023(92)
2022(84)
2021(82)
2020(65)
2019(70)
2018(58)
2017(32)
2016(26)
2015(26)

メンバーズレター

会員限定レポートの閲覧や、InfoComニューズレターの最新のレポート等を受け取れます。

メンバーズ登録(無料)

各種サービスへの問い合わせ

ICTに関わる調査研究のご依頼 研究員への執筆・講演のご依頼 InfoCom T&S World Trend Report

情報通信サービスの専門誌の無料サンプル、お見積り

InfoCom T&S World Data Book

グローバルICT市場の総合データ集の紹介資料ダウンロード