生成系AIに関する規制（生成系人工知能サービス管理弁法（パブコメ版）の公表）（中国）

第一 これまでの中国におけるAIに係る規制の動向※5

　これまでの中国におけるAIに係る規制としては、2021年12月及び2022年11月に、「インターネット情報サービスにおけるアルゴリズム推奨管理規定」（以下「アルゴリズム規定」という。）※6及び「インターネット情報サービスにおけるディープシンセシス管理規定」（以下「ディープシンセシス規定」という。）※7がそれぞれ制定されており、本弁法案は、これらに加え、AIに関する新たな規制を加えるものである。これらの従前の規定の概要は以下のとおりである。

1. アルゴリズム規定

　アルゴリズム規定は、中国国内においてアルゴリズム推奨技術※8を利用してインターネット情報サービスを提供することを規制対象としており（2条）、かかるサービスの提供者は、サービス提供開始後の10日以内に当局に届出を行う義務がある（24条）。そのほか、提供者は、アルゴリズム推奨技術を利用することにより、ユーザーに対する不当なラベリング（10条）、私的独占又は不正競争の活動（15条）や、ユーザーの嗜好、取引習慣に基づいて差別的な取引価格等の取引条件を設定する行為（21条）等の行為を行ってはならず、さらに、ユーザーの知る権利（16条）、選択権や削除権（11条、17条）等の合法的な権益を保護するための各種措置を講じる義務、データの安全性等に関する内部コンプライアンス義務（7条、9条）や、安全評価の実施（27条）等の義務の履行も求められている。

2. ディープシンセシス規定

　ディープシンセシス規定は、「中国国内においてディープシンセシス技術※9を利用してインターネット情報サービスを提供する」行為を適用対象としている（2条）。同規定においては、ディープシンセシス・サービスの提供者、当該サービスに対する技術サポートの提供者及び当該サービスの利用者それぞれに、一定の義務が課されているが、ディープシンセシス・サービスの提供者についていえば、サービス提供開始後の10日以内に当局への届出を行う義務があるほか（19条）、ディープシンセシス技術を利用して生成された内容に対するマーク掲載義務（16条、17条）、開発で利用するデータの安全性確保義務（14条）、アルゴリズムの適法性、生成される内容の適法性確保義務（6条、10条、11条、14条）、安全評価義務（15条、20条）が規定されている。

第二 本弁法の規制対象及び適用範囲

1. 生成系AIの定義

（1） 本弁法案

　本弁法案では、生成系AIについて、「アルゴリズム、モデル、規則に基づき、文章、画像、音声、動画、プログラム等の内容を生成する技術」と定義されている（本弁法案2条）。

　当該規定の文言から見ると、生成系AIについては相当広く定義されていると思われる。ChatGPTやMidjourneyのように、いわゆる生成系AIと言われているもの以外にも、文言の形式からは、例えば、単なる画像加工のAPP、チャットボット、ゲームも、一定のアルゴリズムに基づいて文書や画像等を生成するものとして、該当する余地はあることになるように思われ、規制対象となる生成系AIの厳密な境界は必ずしも明確ではない。

（2） 従前の規定との関係

　アルゴリズム規定では、上述のとおり、その規制対象とするアルゴリズム推奨技術について、「生成合成類、個別化推奨類、ソート選択類、検索フィルタリング類、意思決定調整等のアルゴリズム技術」と定義され、本弁法案と比べると、文書等を生成するものに限らず、一定の機能をもったアルゴリズム技術が対象とされており、本弁法案より規制対象は広く定義されている。他方、ディープシンセシス規定は、その規制対象とするディープシンセシス技術について、生成合成類アルゴリズムを使用して、テキスト、画像、音声、映像、仮想シーン等インターネット情報を生成する技術と定義しており、ディープシンセシス規定の規制対象であるディープシンセシス技術も、本弁法の規制対象である生成系AIの一種として捉えられるように考える。

2. 本弁法の適用範囲

（1） 本弁法案

　本弁法案においては、生成系AI製品を開発・利用し、中国国内の公衆向けにサービスを提供する場合には、本弁法を適用するとされ（本弁法案2条）、このようなサービスの提供者は、本弁法の適用を受けることになる（以下「本弁法適用対象者」という。）。さらに、本弁法案においては、生成系AI製品を利用して会話及び文章、画像、音声生成などのサービスを提供する組織及び個人が「提供者」として定義されており（本弁法案5条）、提供者に該当すれば、後述の提供者を名宛人とする諸種の義務を負うことになる。

　これらの規定から、本弁法の適用範囲については、以下の点に留意する必要がある。

① 本弁法適用対象者が提供するサービスは「中国国内の公衆向けに」提供されるものであること

（a） 中国外の会社によるサービス提供

　本弁法の適用範囲となる行為は、「中国国内の公衆向けに」サービスを提供する行為であるが、「中国国内の公衆向けに」サービスを提供するとは、個人情報保護法にも類似の表現があり※10、サービス提供者の国籍又は住所を問わず、中国国外の会社であっても、「中国国内の公衆向けに」生成系AIサービスを提供する場合は、本弁法が適用される。サービス提供が「中国国内の公衆向けに」なされるものであるかの具体的な判断基準については、現行法上なお明確な規定がなく、ホームページ等の言語や決済通貨、決済方法、実際のサービス利用者の状況等諸事情を考慮して検討するほかないが、中国語で利用できアリペイ、Wechat等での人民元決済ができるようなサービスで、実際にも大部分の利用者のアクセスが中国国内からなされるようなものである場合には、適用範囲かどうかの検討にあたっては慎重な判断を要するように思われる。

（b） サービスの提供行為や利用行為の所在地

　本弁法案は、「中国国内の公衆向けに」サービスが提供されれば適用され、サービスの提供対象が基準とされており、生成系AI製品の開発行為、サービスの提供行為や、ユーザーの利用行為が実際に中国国内で行われるか否かは本弁法の適用判断に影響を与えないと考えられる。

　なお、アルゴリズム規定及びディープシンセシス規定はいずれも、サービスの提供行為が中国国内において発生してはじめて規制対象となるとしているため（アルゴリズム規定2条、ディープシンセシス規定2条）、本弁法案は、これらの規定より域外適用されやすいものとなっている。

② 本弁法適用対象者が提供するサービスにおいて生成系AIを開発、利用すること

　本弁法案では、生成系AIを開発してサービスを提供する行為のほか、生成系AIを「利用して」サービスを提供する行為も適用対象となっており、生成系AIが提供者自ら開発したものであることは求められておらず、他社開発の生成系AIを利用してサービスを中国国内の公衆向けに提供することも本弁法の適用範囲に含まれる。

③ 本弁法適用対象者のサービスの範囲

　上述のとおり、本弁法適用対象者は、生成系AI製品を開発・利用し、中国国内の公衆向けにサービスを提供する者であるが、当該サービスがどのようなものかについては特段の規定がない※11。この点については、上述のとおり、本弁法案に規定されている義務の多くの名宛人とされている「提供者」は、生成系AI製品を利用して会話及び文章、画像、音声生成等のサービスを提供する組織及び個人と定義されており、（「等」とされる範囲が明確ではないものの、）本弁法案の全体からすると、提供者の定義と同様に、本弁法適用対象者の提供サービスについては、基本的には、ChatGPTのような、文書、画像等何らかの内容を生成するサービスが想定されていると考える。

（2） 実務上適用対象か問題となりうる例の検討

　上述の本弁法の適用範囲はそれほど明確でないものの、企業の事業活動に関して本弁法の規制範囲として問題となりうる点として、以下が考えられる。

【チャットボットの運営】

　現在、多くの企業は顧客からの問い合わせについてチャットボットで自動応答するサービスを提供している。これらのチャットボットは、独自に企業で開発された一定のアルゴリズムに沿って自動応答のサービスを提供するものが多いと思われるが、近時の生成系AIの発展を踏まえ、生成系AIを搭載するタイプのものが登場することも想定されるところである。このようなものが中国国内の公衆向けに提供されるものである場合に、本弁法の適用対象となるかが問題となる。

　上述のとおり、生成系AIの定義は、アルゴリズムに沿って文章等を生成する技術などと相当広く規定されており、いわゆる生成系AIを搭載するものだけでなく、単に独自に企業で開発された一定のアルゴリズムに沿って自動応答のサービスを提供する技術も、形式的には「生成系AI」に該当する可能性がある。チャットボットの場合には、限定された特定商品の購入を行う消費者しか利用せず、回答内容も当該商品に関連するものに限定されており、生成された文章等が広く公衆に使われることもないという性質を備えている限り、本弁法案の生成系AI規制の趣旨には合致しないように思われるが、この点については、チャットボットの具体的な運用状況等にもよるので、具体的な状況を踏まえて検討する必要があろう。

　なお、チャットボットのほか、企業の事業活動に関する本弁法の適用に関しては、他にも多岐の状況で問題となりうる。例えば、中国拠点で生成系AIを従業員に業務上利用させる行為なども問題となりうるが、生成系AIの提供対象が拠点の従業員に限定されることから、本弁法の典型的な適用例とは異なるように思われるものの、この点は今後も議論等を待つ必要があろう。

第三 生成系AIサービス提供者の義務

1. サービス提供開始前の義務

　本弁法案においては、サービスを提供する前に以下の手続を行う必要がある。

（1） 安全評価の実施（本弁法案6条）

　生成系AIサービスを提供する前に、「世論属性又は社会動員能力を有するインターネット情報サービス安全評価規定」※12に従い、自ら又は専門機構に委託して安全評価を行い※13、そして安全評価の結果を主管当局※14に提出する必要がある（同規定3条、4条、7条）。

（2） アルゴリズムの事前届出（本弁法案6条）

　生成系AIサービスを提供する前に、アルゴリズム規定に従い、主管当局に対して、アルゴリズムの届出、変更及び抹消届出の手続を行うことが義務とされている。アルゴリズム規定では、推奨アルゴリズムサービスの提供者は、その名称、サービスの提供方式、応用分野、アルゴリズムの類型、アルゴリズムへの自己評価の報告、公表内容等の情報をインターネット情報弁公室に対し届け出る必要があるとされている（同規定24条）。

（3） 企業のビジネスモデル及び生成される内容に基づく業許認可の事前取得

　提供者の具体的なビジネスモデル及び生成される内容によっては、中国の法令上、別途、増値電信業務経営許可証※15や公安機関における国際インターネットへの接続に関する届出※16を事前に行わなければならない場合や、オンライン出版・番組視聴・文化サービス業務の経営等外資の参入が禁止・制限されている場合※17もあるため、必要な手続等を行い、又は禁止制限の違反にならないようにする必要がある※18。

2. サービス提供開始後の義務

　サービスの提供を開始した後においては、主として以下の義務を履行しなければならないとされている。

図表1：筆者作成

3. 義務違反の罰則

　提供者に本弁法への違反がある場合には、サイバーセキュリティ法、データ安全法及び個人情報保護法等の法令を優先的に適用し、法律又は行政法規に規定がないとき、警告、通知・訓戒、期限内の是正命令、是正命令に応じない又は情状が深刻な場合には生成系AIサービスの提供の中止又は禁止、及び1万人民元から10万人民元以下の罰金が課されうる（本弁法案20条）。

終わりに

　本弁法案は、不明確な点が少なくなく、確定版の規定が今後公表され次第、確認する必要がある。引き続き注意しておくことが望ましい。