EUのAI責任指令案・製造物責任指令の改正案の概要

AI責任指令案（及びこれに関連するPLD改正案）の概要

1. AI責任指令案の目的

　AI責任指令案の目的は、AIシステムの関与によって生じた損害に対する契約外の民事責任の特定の側面について統一的な規則を定めることで、EU域内の市場機能を向上させることにあるとされています。また、指令案は、以下に述べるとおり、特に、AIに関連する特定の場面における立証の困難さに対処し、正当な請求が妨げられないようにすることを目的として、証拠開示のルールや、因果関係の推定に関するルールを新たに設けています※8。なお、これらのルールは、各加盟国の国内法における立証責任の分担の問題や証明度の問題に影響を与えるものではありません（AI責任指令案第1条第3項(d)）。

2. 適用範囲（AI責任指令案第1条、第2条）

　AI責任指令案は、AIシステムによって生じた損害※9に関する、契約外の事由による過失に基づく（fault-based）※10民事上の損害賠償請求に適用されます（AI責任指令案第1条第2項）。すなわち、AI責任指令案は、債務不履行責任や契約不適合責任といった契約上の責任は適用対象ではなく、典型的には、不法行為責任などの各加盟国の国内法における過失を基礎とする責任について適用されるものです。AI責任指令案がカバーするAIシステムにより生じた損害は、PLD改正案と異なり、安全性が不十分であることから生じたものに限定されず、広く過失責任による損害が対象となることに留意すべきです。例えば、就職活動においてAI技術が関係する差別などによる損害の賠償も対象となり得ます。

　また、AI責任指令案は、その適用対象となる（上記請求に関する）原告（Claimant）として、①AIシステムの出力結果（an output of an AI system）により、損害を被った者（個人であるか事業主体であるかを問いません。）やAIシステムが出力結果を生成すべきであったにもかかわらずこれを生成しなかったことにより、損害を被った者（AI責任指令案第2条(6)(a)）のほか、②損害を被った者の権利を承継したり、保険会社のように代位により当該権利を取得したりした者（同(b)）、さらには、③集団訴訟指令の適格団体（qualified entity）のように、損害を被った一人又は複数の者のために権利行使をする者も含まれます（同(c)）。

　これに対し、PLD改正案では、新たに「ソフトウェア」そのものが製造物責任の対象となる「製造物」に該当することとされたため（第4条(1)第2文）、ソフトウェア※11の一種であるAIシステムに「欠陥」があれば、AIシステムの開発者等※12について、無過失責任（no-fault liability）が適用されることになります（PLD改正案第4条(11)、第7条）。そして、「欠陥」の有無の判断の考慮要素として、新たに、設置後に継続学習できる能力（ability to continue to learn after deployment）やソフトウェアアップデートが加えられています（第6条第1項(c)、(e)）。

　なお、日本法の下では、ソフトウェアそのものは、製造物責任法の適用対象となる「製造物」には該当しません。

3. 裁判所を通じた証拠開示・証拠保全の新設（AI責任指令案第3条）

　AI責任指令案の第3条は、「高リスクAIシステム」に関連する新たな証拠開示制度について規定しています。まず、AI責任指令案第3条第1項及び第３項は、裁判所が、潜在的な原告※13又は原告の求めにより、損害を生じさせたと疑われる「高リスクAIシステム」のプロバイダ等※14やユーザに対し、当該プロバイダ等やユーザが利用可能な関連性のある証拠の開示を命じ、また、原告の求めにより、これらの証拠の保全を命じる制度を新設しています。

　次に、AI責任指令案第3条第１項及び第２項は、証拠開示の要件として、潜在的な原告に対しては、事前の証拠開示請求及びこれに対する拒絶と、損害賠償請求権の疎明※15に足りる十分な事実及び証拠の提出を、原告に対しては、被告からの証拠の収集のための全ての相応の手段を講じたことを、それぞれ求めています。

　また、AI責任指令案第3条第４項は、裁判所が証拠の開示又は保全を命ずる場合に、第三者を含む関係者の正当な利益（秘密情報や営業秘密等を含みます。）を考慮し、必要かつ相当な範囲に限定することを要求しています。営業秘密等の開示が命じられた場合、裁判所は、当該営業秘密等が証拠として用いられ、又は法的手続の中で言及される際に守秘性を確保するための具体的措置を講じなければならないとされています。

　最後に、AI責任指令案第3条第5項は、被告が裁判所による証拠の開示又は保存の命令に従わないときには、証拠により証明しようとする、被告の注意義務違反を推定しなければならないと規定しています。なお、この推定はあくまで反証可能なものとされています。

　なお、PLD改正案第8条も、同様に、裁判所を通じた証拠開示制度を新設しています。PLD改正案第8条第1項は、欠陥のある製品が原因となった損害に対する賠償請求を主張する原告の求めにより、原告が当該請求を疎明するに足る十分な事実及び証拠を提示した場合に、裁判所が、被告に対し、被告が利用可能な関連性のある証拠の開示を命ずる制度を新設しています。そして、被告がこの開示命令に従わない場合、裁判所は、製品の欠陥を推定しなければなりません（第9条第2項(a)）。なお、この推定も反証可能です。

　日本法の下でも関連する証拠収集のための規定が設けられています。例えば、民訴法第132条の4が訴えの提起前における証拠収集の処分について、同法第234条以下が証拠保全手続について、同法第223条以下が訴訟における文書提出命令等について、それぞれ規定しています※16。このうち、文書提出命令に従わない場合、裁判所は、文書の記載に関する相手方の主張※17を、さらに一定の要件を満たす場合には、文書により証明すべき事実に関する相手方の主張を、それぞれ真実と認めることができるとされています（民訴法第224条第1項及び第3項）。これに対し、AI責任指令案及びPLD改正案の各証拠開示命令については、これに従わない場合、少なくともその文言上は、AI責任指令案については、注意義務違反及び（後記4で述べる）因果関係の存在を、PLD改正案については、欠陥や因果関係を、それぞれ推定しなければならないとされており、①命令に従わない場合に、裁判所による推定が義務付けられている点、②推定の対象が、法的評価を基礎付ける事実（に関する主張）ではなく、法的評価そのもの（あるいは日本法の下における規範的要件事実そのもの）である点※18において、日本の民訴法よりも強力なサンクションが課され、これにより開示命令に従うように動機付けがされています。

4. 因果関係の推定規定の新設（AI責任指令案第4条）

　AI責任指令案第4条は、因果関係の推定について規定しています。

　まず、第4条第1項は、AIシステムに関する損害賠償請求における過失との因果関係の推定の基本となるルールについて定めており、その本文の定める特定の場合において、3つの要件を全て満たすときは、上記因果関係の推定を認めています。なお、この推定は反証可能なものとされています（同条第7項）。

　具体的には、第4条第1項は、次の(a)～(c)の3つの要件を満たす場合に、「被告の過失」と「AIシステムによって生成された出力結果又は出力結果の不生成」との間の因果関係の推定を認めています。

　 (a) 注意義務違反からなる被告の過失の立証

　 (b) 被告の過失が「AIシステムによって生成された出力結果又は出力結果の不生成」に影響を与えたことが合理的にあり得ると考えられること

　 (c) 「AIシステムによって生成された出力結果又は出力結果の不生成」による損害の発生の立証

　次に、AI責任指令案第4条第2項及び第3項は、問題となるAIシステムが「高リスクAIシステム」であるときに、同条第1項の定める(a)の要件充足性が認められるための特則を、被告の属性に応じて定めています。具体的には、第4条第２項は、被告がAIシステムのプロバイダ（又はこれに準ずる者）である場合、同条第3項は被告がAIシステムのユーザである場合について、それぞれ定めています。同条第2項及び第3項によれば、プロバイダ又はユーザにAI規則案の定める所定の義務のいずれかの不履行等（例えば、プロバイダが、AIシステムの設計・開発に当たって、AI規則案第13条に定める透明性要件を満たす態様でこれを行わなかった場合や、ユーザが、AIシステムに附属の指示に従い、AIシステムを利用し又は監視する義務を怠り、また、必要な場合には、AI規則案第29条（第4項）に従い、その利用を停止し又は中断する義務を怠った場合など）が認められる場合に限り、当該不履行等との関係で、因果関係が推定されることになります。

　また、AI責任指令案第4条第4項及び第5項は、AIシステムの内容に応じて、推定規定の適用の可否について定めています。すなわち、同条第4項は、問題となるAIシステムが「高リスクAIシステム」の場合において、被告が、因果関係の立証のための十分な証拠と専門知識に、原告が合理的にアクセス可能であると立証したときは、加盟国の裁判所は、推定規定を適用することができません。これに対し、同条第5項は、問題となるAIシステムが「高リスクAIシステム」でない場合には、加盟国の裁判所が、原告による因果関係の立証が著しく困難であると認めたときにはじめて推定規定を適用することとしています。

　最後に、AI責任指令案第4条第６項は、被告がAIシステムを私的な、かつ、non-professionalな活動で使用していた場合には、被告によるAIシステムの運用に関する条件に対する重大な抵触があったとき、又は、被告がAIシステムの運用に関する条件の決定を要求されており、かつ、それが可能であったにもかかわらず、被告がそれを怠ったときに限り、推定規定を適用することとしています。

　なお、PLD改正案第9条第3項も、同様に、因果関係の推定規定を新設しています。具体的には、製品に欠陥があること及び生じた損害が当該欠陥に典型的に整合する種類のものであることが立証された場合には、製品の欠陥と損害との間の因果関係の推定を認めています。なお、この推定は反証可能なものとされています（PLD改正案第9条第5項）。

　また、PLD改正案との関係では、欠陥の推定規定の新設にも留意する必要があります。PLD改正案第9条第2項は、次の3つの要件のいずれかを満たす場合に、製品に欠陥があることが推定されなければならないとしています。この推定についても、被告による反証が可能です。

　 (a) 被告がPLD改正案第8条第1項の証拠開示命令に従わなかったとき

　 (b) 製品が所定の義務的安全性要件を遵守していなかったことの立証

　 (c) 損害が、製品の通常の使用時において、製品の明白な誤動作によって生じたことの立証

　さらに、PLD改正案第9条第4項は、原告が技術的又は科学的複雑さ（technical or scientific complexity）のために、欠陥若しくは（欠陥と損害との間の）因果関係又はその両者の証明について、過度の困難に直面した場合、原告が十分に関連する証拠によって次の事項を立証したときは、欠陥若しくは因果関係又はその両者は、推定されなければならないとしています。この推定についても、被告による反証が可能です。

　 (a) 製品が損害の一因となっていること、かつ

　 (b) 製品に欠陥があり、又は製品の欠陥が損害のあり得べき原因となっている可能性があること

5. 評価及びレビュー（AI責任指令案第5条）

　AI責任指令案は、段階的アプローチを採用しています。第1ステージは、上記の3及び4に記載したとおり、AI特有の問題に対応するための立証責任の負担を軽減する措置に限定されています。第2ステージとしては、欧州委員会がモニタリングプログラムを設置し、AIシステムに関するインシデントに係る情報やデータをレビューし、過失を必要としない厳格責任（no-fault liability）を一定のAIシステムのオペレーターに課すことの適切性及び強制保険導入の必要性を含む更なる措置の必要性について評価し、欧州理事会や欧州議会等に対して報告をすることが予定されています（第5条）。

おわりに

　今回公表されたAI責任指令案及びPLD改正案は、デジタル時代、循環経済及びグローバル・バリューチェーンに即した民事責任の規律を定めるためにパッケージとして提案されたものです。AI責任指令案は、AIシステムに特有の事情であるAIの判断過程のブラックボックス化に対処するために特定の立証負担軽減措置を講じるという注目すべきものです。また、PLD改正案も、立証負担の軽減措置の導入のほか、従来の製造物概念を大きく変える改正提案を伴っており、AIシステムのみならず、先端技術製品などにも大きな影響を与える可能性があります。これらの立法提案は、AI規則（Regulation）案とは異なり、指令（Directive）として公表・提案されており、あくまでEU加盟各国に対し、Directiveの内容を実施するための国内法の制定を要求するにとどまります。そのため、AI責任指令及びPLD改正案に関する今後のEU理事会（閣僚理事会）と欧州議会での議論に加え、Directive成立後のEU各国の動向にも注視する必要があります。

　当事務所でも、AIシステム等を搭載した製品の製造事業者等に対する助言を行ってきた経験を踏まえ、引き続き、この分野に関する有益な情報を発信していきたいと思います。