AI×法務
最新の動向を踏まえたAIガバナンス構築に向けて
Introduction
生成AIの急速な発展に伴い、AIの活用が多くの企業において重要課題の1つとなっています。AIを取り巻く国内外の法的議論や実務対応も急速に変化をしており、企業においてAIの活用を検討するにあたって最新の動向を把握しておくことが必要になります。そういった最新の動向を踏まえた上で、自社におけるAIの活用戦略を検討し、実行に必要なリスクマネジメント体制（AIガバナンス）を構築することが重要です。
本ページでは、AIの活用において問題となる法的議論を解説し、AIガバナンス構築に参考となるコンテンツを紹介します。
お知らせ・ニュース
-
NewsLetter
ニュースレター -
Feature
特集記事
ニュースレター
- 2024.06.19 知的財産
- 「AI時代の知的財産権検討会 中間とりまとめ」（AI時代の知的財産権検討会）のポイント（下）
- 2024.06.12 知的財産
- 「AI時代の知的財産権検討会 中間とりまとめ」（AI時代の知的財産権検討会）のポイント（中）
- 2024.06.10 欧州
- ＜AI Update＞ 「欧州AI法」の概要と日本企業の実務対応
- 2024.06.05 知的財産
- 「AI時代の知的財産権検討会 中間とりまとめ」（AI時代の知的財産権検討会）のポイント（上）
- 2024.05.21 知的財産
- AIの発明者性について判示した東京地裁判決 ―東京地判令和6年5月16日―（速報）
- 2024.05.14 知的財産
- 日本のAIガバナンスの基本となる「AI事業者ガイドライン（第1.0版）」の概要
- 2024.03.25 著作権
- 「AIと著作権に関する考え方について」（文化審議会著作権分科会法制度小委員会）のポイント
- 2024.03.01 米国
- ＜AI Update＞ 米国におけるAI大統領令発令後の取組みについてのアップデート
- 2023.11.22 米国
- AIに関する米国大統領令の公表と日本企業への影響
- 2023.07.14
- 夏休み前に読みたい「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン」
- 2023.06.09
- 生成AI（Generative AI）を巡る近時の動向
- 2023.05.25 中国
- 生成系AIに関する規制（生成系人工知能サービス管理弁法（パブコメ版）の公表）（中国）
- 2022.10.24 欧州
- EUのAI責任指令案・製造物責任指令の改正案の概要
- 2021.04 欧州
- EUがAIに関する包括的な規則案を公表
特集記事
今後、対談などAIの最新の動向を踏まえた記事をご用意いたします。
おすすめのウェビナー
AI活用によるメリットとリスクマネジメント
AIは、画像認識、最適化、制御、そして生成といった様々な活用場面があるため、幅広い産業において活用が見込まれています。AIを用いることで、新たなイノベーションが創出されたり、業務効率の大幅な向上を実現したり、競争優位性を確保・維持するためにAIを含む新しいテクノロジーの活用は不可避といえます。
他方で、新しいテクノロジーゆえに、適法性の不透明さや、社会的批判といったリスクもまた不可避的に存在します。これらのリスクを上手くマネジメントし、「守り」のガバナンスではなく「攻め」のガバナンスを構築していくことが、企業の競争力向上のために重要といえます。
AIガバナンス
AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされるメリットを最大化することを目的とする、ステークホルダーによる技術的、組織的及び社会的システムの設計並びに運用
AIガバナンスの構築
ガバナンス体制の構築にあたっては、AIの技術進歩や社会的受容性に迅速かつ柔軟に対応する必要があります。そのため、AIガバナンスにおいてはゴールベースの考え方に基づいた「アジャイルガバナンス」の発想が取り入れられています。すなわち、企業としては、「環境・リスク分析」「ゴール設定」「システムデザイン」「運用」「評価」といったサイクルを、マルチステークホルダーで継続的かつ高速に回転させていくアジャイルガバナンスの実践が重要となります。
AIガバナンス構築の第一歩となるゴール設定は、「AIポリシー」や「AI基本指針」といったハイレベルな方針を策定することから始まります。策定においては、総務省・経済産業省による「AI事業者ガイドライン第1.0版」（2024年4月（同年11月第1.01版公表））における「共通の指針」が参考になります。
AI事業者ガイドラインの概要については、以下のコンテンツもご参照ください。
- NewsLetter
- 日本のAIガバナンスの基本となる「AI事業者ガイドライン（第1.0版）」の概要
- Webinar
- 30分で概要を理解する！AI事業者ガイドライン案の読み方・使い方
AI事業者ガイドラインにおける
共通の指針
- 人間中心
- 人間の尊厳及び個人の自律、AIによる意思決定・感情の操作等への留意、偽情報等への対策、多様・包摂性の確保、利用者支援、持続可能性の確保
- 安全性
- 人間の生命・身体・財産、精神及び環境への配慮、適正利用、適正学習
- 公平性
- AIモデルの各構成技術に含まれるバイアスへの配慮、人間判断の介在
- プライバシー保護
- AIシステム・サービス全般におけるプライバシーの保護
- セキュリティ確保
- AIシステム・サービスに影響するセキュリティ対策、最新動向への留意
- 透明性
- 検証可能性の確保、関連するステークホルダーへの情報提供、合理的かつ誠実な対応、関連するステークホルダーへの説明可能性・解釈可能性の向上
- アカウンタビリティ
- トレーサビリティの向上、「共通の指針」の対応状況の説明、責任者の明示、関係者間の責任の分配、ステークホルダーへの具体的な対応、文書化
- 教育・リテラシー
- AIリテラシーの確保、教育・リスキリング、ステークホルダーへのフォローアップ
- 公正競争確保
- イノベーション
- オープンイノベーション等の推進、相互接続性・相互運用性への留意、適切な情報提供
各国の法規制の現状
適切なリスク分析のためには、各国の法規制の最新動向を把握しておくことが重要です。
日本の法規制はもちろん、AIサービスを諸外国において提供又は利用する場合には現地の法規制を遵守する必要があります。
日本の法規制
日本においては、欧州のAI法のような法的拘束力を有する包括的なAI規制は存在せず、法規制としては個別法・業法による規律が中心となっています。
AIと著作権
AIの開発・利用にあたり、著作権との関係については様々な法的議論があります。主なものとしては、AI開発のために著作物を学習させる場合に著作権者の許諾を要するか、生成されたAI生成物が他者の著作物に類似している場合に著作権侵害となるか、生成されたAI生成物にAI利用者の著作権が認められるかといった議論です。そのような法的議論を整理するものとして、2024年3月に文化庁において「AIと著作権に関する考え方について」が取りまとめられました。日本国内では、上記の議論に関するAIと著作権に関係する具体的な裁判例はまだないため、今後の動向に注視する必要があります。
AIの開発のため、既存著作物を含むデータを学習に使用することは許されるか
AI開発のためにデータを学習させる際にはデータの複製等が行われるため、当該データに著作物が含まれる場合は著作物の利用となり、原則として著作権者の許諾を得る必要がありますが、著作権法上の権利制限規定に該当する場合は同意を得る必要がありません。権利制限規定の一つである著作権法第30条の4柱書は、「著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる」と規定しており、「次に掲げる場合」として同条第2号で「情報解析」を規定しています。AIの開発のためデータを学習に用いる行為は、「情報解析」に該当すると考えられており、既存著作物を生成AIの学習に使用することは原則として著作権侵害に該当しないと解されています。
ただし、「享受」目的が併存している場合や「著作権者の利益を不当に害することとなる場合」（著作権法第30条の4ただし書）に該当する場合には、著作権法第30条の4の適用はなく、既存著作物をAIの学習に使用することは許容されません。
既存著作物をAIの学習に使用する場合において、「享受」目的が併存していると評価される場合はどのような場合か
個別具体的な事例に即して判断されるものですが、文化庁「AIと著作権に関する考え方について」（2024年3月）によれば、学習済みモデルに対する追加的な学習のうち、意図的にAIの学習データに含まれる既存著作物の創作的表現の全部又は一部をそのまま出力させることを目的としている場合には、「享受」目的が併存すると評価される可能性があります。
どのような場合に「著作権者の利益を不当に害することとなる場合」（著作権法第30条の4ただし書）に該当するか
文化庁「AIと著作権に関する考え方について」（2024年3月）によれば、著作権者の既存著作物の市場と衝突する又は将来における既存著作物の潜在的販路を阻害するかという観点から総合的に考慮して判断されます。例えば、AI学習のための著作物の複製等を防止する技術的な措置が講じられており、かつ、このような措置が講じられていることや、過去の実績といった事実から、情報解析に活用できる形で整理したデータベースの著作物が将来販売される予定があることが推認される場合には、この措置を回避してクローラにより多数のデータを収集することによりAI学習のために当該データベースの著作物の複製等をする行為は、当該データベースの著作物の将来における潜在的販路を阻害する行為として、「著作権者の利益を不当に害することとなる場合」に該当すると考えられています。
AIの開発のため、既存著作物を含むデータを学習に使用することは許されるか
AI開発のためにデータを学習させる際にはデータの複製等が行われるため、当該データに著作物が含まれる場合は著作物の利用となり、原則として著作権者の許諾を得る必要がありますが、著作権法上の権利制限規定に該当する場合は同意を得る必要がありません。権利制限規定の一つである著作権法第30条の4柱書は、「著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる」と規定しており、「次に掲げる場合」として同条第2号で「情報解析」を規定しています。AIの開発のためデータを学習に用いる行為は、「情報解析」に該当すると考えられており、既存著作物を生成AIの学習に使用することは原則として著作権侵害に該当しないと解されています。
ただし、「享受」目的が併存している場合や「著作権者の利益を不当に害することとなる場合」（著作権法第30条の4ただし書）に該当する場合には、著作権法第30条の4の適用はなく、既存著作物をAIの学習に使用することは許容されません。
既存著作物をAIの学習に使用する場合において、「享受」目的が併存していると評価される場合はどのような場合か
個別具体的な事例に即して判断されるものですが、文化庁「AIと著作権に関する考え方について」（2024年3月）によれば、学習済みモデルに対する追加的な学習のうち、意図的にAIの学習データに含まれる既存著作物の創作的表現の全部又は一部をそのまま出力させることを目的としている場合には、「享受」目的が併存すると評価される可能性があります。
どのような場合に「著作権者の利益を不当に害することとなる場合」（著作権法第30条の4ただし書）に該当するか
文化庁「AIと著作権に関する考え方について」（2024年3月）によれば、著作権者の既存著作物の市場と衝突する又は将来における既存著作物の潜在的販路を阻害するかという観点から総合的に考慮して判断されます。例えば、AI学習のための著作物の複製等を防止する技術的な措置が講じられており、かつ、このような措置が講じられていることや、過去の実績といった事実から、情報解析に活用できる形で整理したデータベースの著作物が将来販売される予定があることが推認される場合には、この措置を回避してクローラにより多数のデータを収集することによりAI学習のために当該データベースの著作物の複製等をする行為は、当該データベースの著作物の将来における潜在的販路を阻害する行為として、「著作権者の利益を不当に害することとなる場合」に該当すると考えられています。
AI生成物が既存著作物の著作権侵害を構成するのはどのような場合か
ある作品に既存の著作物との①類似性及び②依拠性の両者が認められる際に、著作権侵害となるとされています。
①類似性の有無については、既存の著作物の表現上の本質的な特徴が感得できるかどうかにより判断され、個別具体的な事例に即して判断されることになります。
②依拠性の有無については、①の類似性が認められることに前提に個別具体的な事例に即して判断されることになりますが、文化庁「AIと著作権に関する考え方について」（2024年3月）によれば、AI生成物を生成した利用者が既存の著作物を認識していたと認められる場合や、当該利用者が既存の著作物を認識していなくとも当該生成AIが当該既存著作物を学習していた場合には、通常、依拠性があったと推認され、AI利用者による著作権侵害になり得ると考えられています。
AI生成物が既存著作物の著作権侵害を構成する場合に侵害主体は誰になるか
原則として、AI生成物の生成行為を行った者であるAI利用者が、著作権侵害の責任を負います。ただし、既存著作物の類似物を生成する蓋然性の高さを認識しているにも関わらず、これを抑止する措置を取っていない場合等、一定の場合には、生成AIを用いたサービス提供を行う事業者も著作権侵害の責任を負う可能性があると考えられています。
AI利用者にAI生成物の著作権は発生するか
著作権法上、「著作者」は「著作物を想像する者をいう。」（著作権法第２条第１項第2号）と定義されており、AIは法的な人格を有しないことから、AI自身が著作者となるものではなく、AIを利用して著作物を創作した人が著作者となります。「著作物」は「思想又は感情を創作的に表現したものであって、文芸、学術、美術又は音楽の範囲に属するものをいう。」（著作権法第２条第１項第１号）と定義されており、AI生成物が著作物に該当するかは、この著作物の定義に該当するか否かによって判断されます。AI生成物の著作物性は、個々のAI生成物について個別具体的な事例に応じて判断されるものであり、単なる労力にとどまらず、創作的寄与があるといえるものがどの程度積み重なっているか等を総合的に考慮して判断されるものと考えられています。文化庁「AIと著作権に関する考え方について」（2024年3月）によれば、著作物性を判断するに当たっては、①指示・入力（プロンプト等）の分量・内容のほか、②生成の試行回数、③複数の生成物からの選択といった要素があると考えられています。また、人間が、AI生成物に創作的表現といえる加筆・修正を加えた部分については、著作物性が認められる可能性があります。
AIと知的財産権等(著作権以外)
著作権のほかにも、AIの開発・利用にあたり、特許権・意匠権・商標権といった知的財産権との関係や、不正競争防止法との関係を検討する必要があります。政府の「AI時代の知的財産権検討会」では、AIとこれらの知的財産権等の関係について検討を行っており、2024年5月に「AI時代の知的財産権検討会中間とりまとめ」が公表されています。
AIと個人情報保護
AIの開発・利用において個人情報（個人データ）の取得や入力を行う場合に、個人情報保護法との関係にも注意する必要があります。個人情報保護委員会が2023年6月に「生成AIサービスの利用に関する注意喚起等」を発出するなど、個人情報保護法を遵守したAIの開発・利用が求められています。
AIと秘密情報
AIの利用にあたり、プロンプトとして企業の機密情報を入力したり、他社から開示を受けた秘密情報を入力したりする場合は、機密情報の営業秘密や限定提供データとしての保護が失われることとならないか、他社との秘密保持義務に違反することとならないかといった事項を検討する必要があります。
米国の法規制
米国のAI規制アプローチは、連邦、州、地方自治体の各レベルでの法規制、ガイドライン等のソフトロー及び社会技術的アプローチを組み合わせた多層的な枠組みとなっています。
これまでに連邦レベルで制定されたAI関連法は、国家的なAI戦略の方向性を示すものであり、欧州のAI法のようにAIの利用を直接規制するものではありません。連邦レベルでのAI政策の中心は、2023年10月に発令された「人工知能の安心、安全で信頼できる開発と利用に関する大統領令」です。この大統領令は、連邦政府機関に対してAIの利用と規制に関する広範な指示を与え、AIの安全性、セキュリティ、信頼性の確保を目指しています。
ソフトローのうち特に重要なものとしては、国立標準技術研究所（NIST）が2023年に発表した「AI Risk Management Framework (AI RMF)」があります。AI RMFは、AIシステムの「trustworthiness（信頼性）」を7つの特性から評価・向上させるアプローチを提供しています。AI RMFを実装するための技術ガイドラインも発行されています。
州レベルでは、連邦のAI規制法がない中、いくつかの州でAI規制法の制定が進んでいます。例えば、コロラド州では、高リスクAIシステムによるアルゴリズムの差別から消費者を保護することを開発者等に義務づける法律が制定されています。ユタ州では、生成AIが人と対話していることの開示（透明性確保）を義務づける法律が制定されています。
さらに、ニューヨーク市などの地方自治体レベルでも、採用プロセスにおけるAIの透明性確保やアルゴリズムの差別防止を定めた法律が施行されています。
このように州及び自治体レベルでの立法が連邦での立法に先行している状況は、米国における今後のAI規制の方向性を示唆しています。
- NewsLetter
- AIに関する米国大統領令の公表と日本企業への影響
- NewsLetter
- 米国におけるAI大統領令発令後の取組みについてのアップデート
欧州の法規制
2024年5月、EUで、世界初となるAIに関する包括的な法規制であるAI法（Artificial Intelligence Act）が成立し、8月1日に発効しました。AI法はEU域内に事業拠点を有しない企業も対象となるほか、厳しい罰則規定を含むことから、日本企業にとっても大きなインパクトを持っています。また、生成AIに関する規定も含まれており、注目されているところです。日本の企業は、自社のAIシステムがAI法の適用を受けるかどうか（特に、「禁止されるAI」に該当しないか、広範な義務が課される「ハイリスクAIの提供者」に該当するか）を確認し、適用を受ける場合には、ルールごとの段階的な施行開始時期にあわせて対応を検討する必要があります。また今後、各規定の解釈等に関するガイドラインが公表されることが予定されており、その動向にも引き続き注意が必要です。
- NewsLetter
- 「欧州AI法」の概要と日本企業の実務対応
中国の法規制
中国では、AI産業の急速な発展に対応して、「インターネット情報サービスにおけるアルゴリズム推奨管理規定」や「インターネット情報サービスにおけるディープシンセシス管理規定」等のAIに関連する法規制が次々と策定されています。
とりわけ、2023年8月に施行された「生成AIサービス管理暫定弁法」（「弁法」）は、世界初の法的拘束力を有する生成AI規制として知られています。弁法は、生成AIサービスの提供者を念頭に置いた業規制的性格を有しており、生成AIサービスの提供者に対し、安全性評価の実施やアルゴリズムの届出、違法コンテンツの検出・削除義務など、具体的な義務を定めています。
弁法の制定を踏まえて、2024年2月には、生成AIサービスの提供者が実施すべき安全性アセスメントの具体的基準を示すことを主な目的として、技術ガイドラインである「生成AIサービス安全基本要件」が公表されました。さらに、2024年5月には、「ネットワークセキュリティ技術生成AIサービス安全基本要件」（パブリックコメント版）」が公開されています。
法執行の観点では、生成AIに関する複数の裁判例が存在します。例えば、広州インターネット法院は、2024年2月、生成AIの出力結果による著作権侵害に関して、生成AIサービスプロバイダーの責任を認める判決を下しています。当該判決では、弁法に定める義務に違反したという構成で生成AIサービスプロバイダーの著作権侵害を認定しており、注目に値します。
最新の動向として、中国政府は「人工知能法」の作成に着手しており、法学者の作成した草案も公表されていることから、今後も引き続きAIに関する法整備がなされることが予想されます。
- NewsLetter
- 生成系AIに関する規制（生成系人工知能サービス管理弁法（パブコメ版）の公表）（中国）
適切なAIガバナンス構築に向けて
「AIポリシー」や「AI基本指針」といったゴールは抽象的な内容になることが多いため、社内向けにAIに関するルール・ガイドラインを策定し、従業員によるAI活用を推進していくことが実務上は重要となります。具体的には、「AI社内利用ガイドライン」を策定し社内におけるAI利用のリスクマネジメントを行うこと、「AIサービス提供ガイドライン」を策定しAIサービスを提供するにあたってのリスクマネジメントを行うことなどが挙げられます。また、リスクを検出・モニタリングするためのAIツールの導入や、AI活用を推進するための組織の設置や外部有識者との連携も、AIガバナンスの運用・評価やリスク分析の観点から有用とされています。
弊所のAIプラクティスチームは、個別サービスの適法性に関するアドバイスだけでなく、社内ルール・ガイドラインの策定や組織体制の構築にもアドバイスしていますので、お気軽にお問い合わせください。
監修責任者
殿村桂司
Keiji Tonomura
- 2018 - 長島・大野・常松法律事務所パートナー
- 2018 - 2018 経済産業省「AI・データ契約ガイドライン検討会作業部会」構成員
- 2022 - 自由民主党デジタル社会推進本部 「NFT政策検討PT（現：web3 PT）」 ワーキンググループメンバー
- 2022 - 経済産業省「スタートアップ新市場創出タスクフォース」構成員
- 2022 - 2022 デジタル庁「Web3.0研究会」構成員
- 2023 - 自由民主党デジタル社会推進本部 「AIの進化と実装に関するPT」 ワーキンググループメンバー
- 2023 - 経済産業省「令和5年度デジタル取引環境整備事業」（AIガバナンスのルールに関する調査研究及び検討会運営）有識者検討委員会委員（AI事業者ガイドラインワーキンググループ委員）
- 2024 - 消費者庁「デジタル社会における消費者取引研究会」委員
- 2024 - 内閣府「AI制度研究会」構成員
- 2024 - 経済産業省「AI 利活用に伴う契約時の留意事項検討会」委員