德地屋圭治 Keiji Tokujiya
パートナー/オフィス一般代表
上海
NO&T Asia Legal Update アジア最新法律情報
NO&T Technology Law Update テクノロジー法ニュースレター
近時、ChatGPTやMidjourneyをはじめとする生成系人工知能（（英語）Generative AI /（中国語）生成式人工智能、以下「生成系AI」という。）※1が次々と発表され、生成される文章や画像等の精度及び質が著しく向上しており、社会的に大きな注目を受けている。もっとも、このような生成系AIを利用するにあたっては、知的財産権侵害、秘密情報の漏洩、個人情報の不正利用や誤情報の頒布等のリスクも懸念されており、EUや米国等※2の世界主要各国は生成系AIを含む人工知能のリスクを評価し、規制の策定を進めている。
中国においても、百度（バイドゥ）、アリババ、テンセントや華為技術（ファーウェイ）等大手IT企業が相次ぎ生成系AI（特に大規模言語モデル（Large Language Model））を発表し、生成系AI開発への参入を加速しているが、このような生成系AIの急速な発展に鑑み、中国国家インターネット情報弁公室は、2023年4月11日に「生成系人工知能サービス管理弁法」のパブコメ版（以下「本弁法案」という。）※3を公表した※4。
本稿では、本弁法案の概要と中国におけるこれまでのAIに関する規制を併せて紹介する。
これまでの中国におけるAIに係る規制としては、2021年12月及び2022年11月に、「インターネット情報サービスにおけるアルゴリズム推奨管理規定」（以下「アルゴリズム規定」という。）※6及び「インターネット情報サービスにおけるディープシンセシス管理規定」（以下「ディープシンセシス規定」という。）※7がそれぞれ制定されており、本弁法案は、これらに加え、AIに関する新たな規制を加えるものである。これらの従前の規定の概要は以下のとおりである。
アルゴリズム規定は、中国国内においてアルゴリズム推奨技術※8を利用してインターネット情報サービスを提供することを規制対象としており（2条）、かかるサービスの提供者は、サービス提供開始後の10日以内に当局に届出を行う義務がある（24条）。そのほか、提供者は、アルゴリズム推奨技術を利用することにより、ユーザーに対する不当なラベリング（10条）、私的独占又は不正競争の活動（15条）や、ユーザーの嗜好、取引習慣に基づいて差別的な取引価格等の取引条件を設定する行為（21条）等の行為を行ってはならず、さらに、ユーザーの知る権利（16条）、選択権や削除権（11条、17条）等の合法的な権益を保護するための各種措置を講じる義務、データの安全性等に関する内部コンプライアンス義務（7条、9条）や、安全評価の実施（27条）等の義務の履行も求められている。
ディープシンセシス規定は、「中国国内においてディープシンセシス技術※9を利用してインターネット情報サービスを提供する」行為を適用対象としている（2条）。同規定においては、ディープシンセシス・サービスの提供者、当該サービスに対する技術サポートの提供者及び当該サービスの利用者それぞれに、一定の義務が課されているが、ディープシンセシス・サービスの提供者についていえば、サービス提供開始後の10日以内に当局への届出を行う義務があるほか（19条）、ディープシンセシス技術を利用して生成された内容に対するマーク掲載義務（16条、17条）、開発で利用するデータの安全性確保義務（14条）、アルゴリズムの適法性、生成される内容の適法性確保義務（6条、10条、11条、14条）、安全評価義務（15条、20条）が規定されている。
本弁法案では、生成系AIについて、「アルゴリズム、モデル、規則に基づき、文章、画像、音声、動画、プログラム等の内容を生成する技術」と定義されている（本弁法案2条）。
当該規定の文言から見ると、生成系AIについては相当広く定義されていると思われる。ChatGPTやMidjourneyのように、いわゆる生成系AIと言われているもの以外にも、文言の形式からは、例えば、単なる画像加工のAPP、チャットボット、ゲームも、一定のアルゴリズムに基づいて文書や画像等を生成するものとして、該当する余地はあることになるように思われ、規制対象となる生成系AIの厳密な境界は必ずしも明確ではない。
アルゴリズム規定では、上述のとおり、その規制対象とするアルゴリズム推奨技術について、「生成合成類、個別化推奨類、ソート選択類、検索フィルタリング類、意思決定調整等のアルゴリズム技術」と定義され、本弁法案と比べると、文書等を生成するものに限らず、一定の機能をもったアルゴリズム技術が対象とされており、本弁法案より規制対象は広く定義されている。他方、ディープシンセシス規定は、その規制対象とするディープシンセシス技術について、生成合成類アルゴリズムを使用して、テキスト、画像、音声、映像、仮想シーン等インターネット情報を生成する技術と定義しており、ディープシンセシス規定の規制対象であるディープシンセシス技術も、本弁法の規制対象である生成系AIの一種として捉えられるように考える。
本弁法案においては、生成系AI製品を開発・利用し、中国国内の公衆向けにサービスを提供する場合には、本弁法を適用するとされ（本弁法案2条）、このようなサービスの提供者は、本弁法の適用を受けることになる（以下「本弁法適用対象者」という。）。さらに、本弁法案においては、生成系AI製品を利用して会話及び文章、画像、音声生成などのサービスを提供する組織及び個人が「提供者」として定義されており（本弁法案5条）、提供者に該当すれば、後述の提供者を名宛人とする諸種の義務を負うことになる。
これらの規定から、本弁法の適用範囲については、以下の点に留意する必要がある。
本弁法の適用範囲となる行為は、「中国国内の公衆向けに」サービスを提供する行為であるが、「中国国内の公衆向けに」サービスを提供するとは、個人情報保護法にも類似の表現があり※10、サービス提供者の国籍又は住所を問わず、中国国外の会社であっても、「中国国内の公衆向けに」生成系AIサービスを提供する場合は、本弁法が適用される。サービス提供が「中国国内の公衆向けに」なされるものであるかの具体的な判断基準については、現行法上なお明確な規定がなく、ホームページ等の言語や決済通貨、決済方法、実際のサービス利用者の状況等諸事情を考慮して検討するほかないが、中国語で利用できアリペイ、Wechat等での人民元決済ができるようなサービスで、実際にも大部分の利用者のアクセスが中国国内からなされるようなものである場合には、適用範囲かどうかの検討にあたっては慎重な判断を要するように思われる。
本弁法案は、「中国国内の公衆向けに」サービスが提供されれば適用され、サービスの提供対象が基準とされており、生成系AI製品の開発行為、サービスの提供行為や、ユーザーの利用行為が実際に中国国内で行われるか否かは本弁法の適用判断に影響を与えないと考えられる。
なお、アルゴリズム規定及びディープシンセシス規定はいずれも、サービスの提供行為が中国国内において発生してはじめて規制対象となるとしているため（アルゴリズム規定2条、ディープシンセシス規定2条）、本弁法案は、これらの規定より域外適用されやすいものとなっている。
本弁法案では、生成系AIを開発してサービスを提供する行為のほか、生成系AIを「利用して」サービスを提供する行為も適用対象となっており、生成系AIが提供者自ら開発したものであることは求められておらず、他社開発の生成系AIを利用してサービスを中国国内の公衆向けに提供することも本弁法の適用範囲に含まれる。
上述のとおり、本弁法適用対象者は、生成系AI製品を開発・利用し、中国国内の公衆向けにサービスを提供する者であるが、当該サービスがどのようなものかについては特段の規定がない※11。この点については、上述のとおり、本弁法案に規定されている義務の多くの名宛人とされている「提供者」は、生成系AI製品を利用して会話及び文章、画像、音声生成等のサービスを提供する組織及び個人と定義されており、（「等」とされる範囲が明確ではないものの、）本弁法案の全体からすると、提供者の定義と同様に、本弁法適用対象者の提供サービスについては、基本的には、ChatGPTのような、文書、画像等何らかの内容を生成するサービスが想定されていると考える。
上述の本弁法の適用範囲はそれほど明確でないものの、企業の事業活動に関して本弁法の規制範囲として問題となりうる点として、以下が考えられる。
【チャットボットの運営】
現在、多くの企業は顧客からの問い合わせについてチャットボットで自動応答するサービスを提供している。これらのチャットボットは、独自に企業で開発された一定のアルゴリズムに沿って自動応答のサービスを提供するものが多いと思われるが、近時の生成系AIの発展を踏まえ、生成系AIを搭載するタイプのものが登場することも想定されるところである。このようなものが中国国内の公衆向けに提供されるものである場合に、本弁法の適用対象となるかが問題となる。
上述のとおり、生成系AIの定義は、アルゴリズムに沿って文章等を生成する技術などと相当広く規定されており、いわゆる生成系AIを搭載するものだけでなく、単に独自に企業で開発された一定のアルゴリズムに沿って自動応答のサービスを提供する技術も、形式的には「生成系AI」に該当する可能性がある。チャットボットの場合には、限定された特定商品の購入を行う消費者しか利用せず、回答内容も当該商品に関連するものに限定されており、生成された文章等が広く公衆に使われることもないという性質を備えている限り、本弁法案の生成系AI規制の趣旨には合致しないように思われるが、この点については、チャットボットの具体的な運用状況等にもよるので、具体的な状況を踏まえて検討する必要があろう。
なお、チャットボットのほか、企業の事業活動に関する本弁法の適用に関しては、他にも多岐の状況で問題となりうる。例えば、中国拠点で生成系AIを従業員に業務上利用させる行為なども問題となりうるが、生成系AIの提供対象が拠点の従業員に限定されることから、本弁法の典型的な適用例とは異なるように思われるものの、この点は今後も議論等を待つ必要があろう。
本弁法案においては、サービスを提供する前に以下の手続を行う必要がある。
生成系AIサービスを提供する前に、「世論属性又は社会動員能力を有するインターネット情報サービス安全評価規定」※12に従い、自ら又は専門機構に委託して安全評価を行い※13、そして安全評価の結果を主管当局※14に提出する必要がある（同規定3条、4条、7条）。
生成系AIサービスを提供する前に、アルゴリズム規定に従い、主管当局に対して、アルゴリズムの届出、変更及び抹消届出の手続を行うことが義務とされている。アルゴリズム規定では、推奨アルゴリズムサービスの提供者は、その名称、サービスの提供方式、応用分野、アルゴリズムの類型、アルゴリズムへの自己評価の報告、公表内容等の情報をインターネット情報弁公室に対し届け出る必要があるとされている（同規定24条）。
提供者の具体的なビジネスモデル及び生成される内容によっては、中国の法令上、別途、増値電信業務経営許可証※15や公安機関における国際インターネットへの接続に関する届出※16を事前に行わなければならない場合や、オンライン出版・番組視聴・文化サービス業務の経営等外資の参入が禁止・制限されている場合※17もあるため、必要な手続等を行い、又は禁止制限の違反にならないようにする必要がある※18。
サービスの提供を開始した後においては、主として以下の義務を履行しなければならないとされている。
| 分類 | 義務の内容 | 条文番号 |
|---|---|---|
| 開発段階における学習用データの適法性 |
|
7条 |
|
8条 | |
| ユーザーの保護 |
依存症防止のための対策：
|
10条 |
個人情報の保護：
|
11条 | |
クレーム対応体制の整備：
|
13条 | |
| 生成内容の適法性 |
|
4条1項1号 |
差別の禁止：
|
4条1項2号、12条 | |
誤情報の防止：
|
4条1項4号 | |
不正内容の再発防止：
|
15条 | |
ユーザーによる不正利用の防止：
|
18条、19条 | |
| 当局の管理監督への遵守 |
|
17条 |
図表1：筆者作成
提供者に本弁法への違反がある場合には、サイバーセキュリティ法、データ安全法及び個人情報保護法等の法令を優先的に適用し、法律又は行政法規に規定がないとき、警告、通知・訓戒、期限内の是正命令、是正命令に応じない又は情状が深刻な場合には生成系AIサービスの提供の中止又は禁止、及び1万人民元から10万人民元以下の罰金が課されうる（本弁法案20条）。
本弁法案は、不明確な点が少なくなく、確定版の規定が今後公表され次第、確認する必要がある。引き続き注意しておくことが望ましい。
※1
生成系人工知能については、日本において厳密な定義は未だないが、一般的には、画像、文章、音声、コード、データ等さまざまなコンテンツを生成することのできる人工知能をいうものと理解されている。
※2
EUにおいては、2021年4月からAIに関する規制法案を公表し検討されているところであるが、報道によれば、近時の生成系AIの発展に鑑み、生成系AIに関連する規定（使用した著作物の表示など）を設けることが検討されている。また、米国においては、米商務省が2023年4月からAIに関する今後の規制のあり方等について意見募集を行っており、AI規制が検討されている。
※3
中文表記は「生成式人工智能服务管理办法（征求意见稿）」。
※4
国家インターネット情報弁公室（http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm）
※5
なお、これまでの中国におけるAIに係る規制としては、本文記載の規制のほか、個人情報保護という観点では個人情報保護法、データ安全という観点ではデータ安全法及びサイバーセキュリティ法も関わってくるが、これらはAIを焦点としたものではないため、本稿では説明を割愛する。
※6
中文表記は「互联网信息服务算法推荐管理规定」（2022年3月1日施行）。
※7
中文表記は「互联网信息服务深度合成管理规定」（2023年1月10日施行）。なお、「ディープシンセシス」とは、英語では「deep synthesis」中国語では「深度合成」であるが、一般的には、ディープラーニング（deep learning）等による合成技術をいうと考えられる。
※8
アルゴリズム推奨技術とは、「生成合成類、個別化推奨類、ソート選択類、検索フィルタリング類、意思決定調整等のアルゴリズム技術」と定義されている（アルゴリズム規定2条）。
※9
ディープシンセシス技術とは、「ディープラーニングや仮想現実（バーチャルリアリティ）等の生成合成類アルゴリズムを使用して、テキスト、画像、音声、映像、仮想シーン等インターネット情報を生成する技術」と定義されている（ディープシンセシス規定23条）。
※10
個人情報保護法3条2項1号によれば、中国国外における、中国国内の自然人の個人情報の取扱行為について、国内の自然人に対する製品又は役務の提供を目的とするときなどの事由に該当する場合、本法を適用するとされる。
※11
当該サービスがどのようなものかについて特段の規定がないことから、企業が生成系AIを使って、ChatGPTのような何らかの内容を生成するものではない他のサービスを提供するような場合にも、本弁法の適用を受けるかどうかは明確でない。
※12
中文表記は「具有舆论属性或社会动员能力的互联网信息服务安全评估规定」（2018年11月30日施行）。
※13
当該安全評価の重点評価項目として次の内容が示されている。①安全管理責任者、情報審査人員又は安全管理機構の設置状況、②ユーザーの本人確認措置及び登録情報の保存措置、③ユーザーのアカウントや操作時間等に関するログ情報及びユーザーの投稿記録の保存措置、④コメントやチャットグループ等のサービス機能における違法・有害情報の防止措置及び記録保存措置、⑤個人情報保護並びに、違法・有害情報の拡散防止等に関する技術的措置、⑥苦情、クレーム制度の構築及び運用状況、⑦インターネット情報弁公室による監督管理への技術、データのサポート及び協力の仕組みの構築状況、⑧公安部門、国家安全機関による監督管理への技術、データのサポート及び協力の仕組みの構築状況（「世論属性又は社会動員能力を有するインターネット情報サービス安全評価規定」5条）。
※14
企業所在地の市レベル以上のインターネット情報弁公室及び公安部門である（「世論属性又は社会動員能力を有するインターネット情報サービス安全評価規定」7条）。
※15
「中華人民共和国電信条例」（中文表記は「中华人民共和国电信条例」、2016年2月6日施行）8条、9条。
※16
「コンピューターネットワークの国際インターネットへの接続に関する安全保護管理弁法」（中文表記は「计算机信息网络国际联网安全保护管理办法」、2011年1月8日施行）12条。
※17
「外商投資参入特別管理措施（ネガティブリスト）（2021年版）」（中文表記は「外商投资准入特别管理措施（负面清单）（2021年版）」、2022年1月1日施行）七の15。
※18
例えば、生成系AIサービスにおいて、ユーザーによる投稿やチャット等の交流機能を搭載する場合には、増値電信業務経営許可証の事前取得が必要となる「情報サービス業務」に該当しうるため、生成系AIサービスの提供に先立って対応が必要となる「電信業務分類目録（2015年版）」（2019年6月6日改正、施行）B25。
本ニュースレターは、各位のご参考のために一般的な情報を簡潔に提供することを目的としたものであり、当事務所の法的アドバイスを構成するものではありません。また見解に亘る部分は執筆者の個人的見解であり当事務所の見解ではありません。一般的情報としての性質上、法令の条文や出典の引用を意図的に省略している場合があります。個別具体的事案に係る問題については、必ず弁護士にご相談ください。
東崎賢治、羽鳥貴広、近藤正篤（共著）
（2025年4月）
殿村桂司、小松諒、糸川貴視、大野一行（共著）
（2025年4月）
関口朋宏（共著）
殿村桂司、松﨑由晃（共著）
東崎賢治、羽鳥貴広、近藤正篤（共著）
殿村桂司、松﨑由晃（共著）
犬島伸能、中村彰男（共著）
商事法務 （2025年4月）
長島・大野・常松法律事務所 農林水産・食品プラクティスチーム（編）、笠原康弘、宮城栄司、宮下優一、渡邉啓久、鳥巣正憲、岡竜司、伊藤伸明、近藤亮作、羽鳥貴広、田澤拓海、松田悠、灘本宥也、三浦雅哉、水野奨健（共編著）、福原あゆみ（執筆協力）
東崎賢治、羽鳥貴広、近藤正篤（共著）
（2025年3月）
工藤靖、今野由紀子、犬飼貴之（共著）
（2025年3月）
鈴木明美、松宮優貴（共著）
（2025年2月）
殿村桂司、小松諒、今野由紀子、松宮優貴（共著）
（2025年4月）
関口朋宏（共著）
殿村桂司、松﨑由晃（共著）
逵本麻佑子、内海裕也、木原慧人アンドリュー（共著）
（2025年3月）
関口朋宏（共著）
（2025年4月）
関口朋宏（共著）
殿村桂司、松﨑由晃（共著）
大久保涼、伊佐次亮介、小山田柚香（共著）
服部薫、塚本宏達、近藤亮作（共著）
酒井嘉彦
（2025年4月）
梶原啓
（2025年3月）
金田聡
（2025年3月）
石原和史
鹿はせる
（2025年1月）
大川友宏、髙野紘輝、万鈞剣（共著）
（2024年12月）
德地屋圭治、鄧瓊（共著）
若江悠
