icon-angleicon-facebookicon-hatebuicon-instagramicon-lineicon-linked_inicon-pinteresticon-twittericon-youtubelogo-not
People 弁護士等紹介

多岐にわたる分野の専門的知識と実績を持つ弁護士が機動的にチームを組み、質の高いアドバイスや実務的サポートを行っています。

Publications 著書/論文

当事務所の弁護士等が執筆したニュースレター、論文・記事、書籍等のご紹介です。多様化・複雑化する法律や法改正の最新動向に関して、実務的な知識・経験や専門性を活かした情報発信を行っています。

Seminars 講演/セミナー

当事務所では、オンライン配信を含め、様々な形態でのセミナーの開催や講演活動を積極的に行っています。多岐にわたる分野・テーマの最新の企業法務の実務について解説しています。

Who We Are 事務所紹介

長島・大野・常松法律事務所は、国内外での豊富な経験・実績を有する日本有数の総合法律事務所です。 企業が直面する様々な法律問題に対処するため、複数の弁護士が協力して質の高いサービスを提供することを基本理念としています。

SCROLL
TOP
Publications 著書/論文
ニュースレター

日本のAIガバナンスの基本となる「AI事業者ガイドライン(第1.0版)」の概要

NO&T Technology Law Update テクノロジー法ニュースレター

※本ニュースレターは情報提供目的で作成されており、法的助言ではありませんのでご留意ください。また、本ニュースレターは発行日(作成日)時点の情報に基づいており、その時点後の情報は反映されておりません。特に、速報の場合には、その性格上、現状の解釈・慣行と異なる場合がありますので、ご留意ください。

はじめに(本ガイドラインの位置付け・構成)

1. 本ガイドラインの位置付け(AIガバナンスの設計・運用のための指針)

 2024年4月19日、総務省及び経済産業省から「AI事業者ガイドライン(第1.0版)」(以下「本ガイドライン」)が公開されました(本稿の執筆者の殿村と丸田は、本ガイドラインのワーキンググループ委員として本ガイドラインの策定に関与して参りました。)。

 これまで、我が国においては、2017年7月の「国際的な議論のためのAI開発ガイドライン案」をはじめとして3つのAIの利活用に関するガイドラインが策定・公表されてきましたが、生成AIの普及など2017年以降現在に至るまでAI技術が急速に発展したことを踏まえ、これらの従来のガイドラインを統合・見直して新規策定されたのが本ガイドラインです。

 本ガイドラインは、我が国におけるAIガバナンスの指針を示すものです。AIガバナンスとは、本ガイドラインにおいては、「AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクト(便益)を最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運用」と定義されています。AIの利活用によって生じるリスクを低減又は制御するための制度としては、例えば法制度(法律)によって担保することも考えられ、実際に欧州においては、高額な罰金を背景に事業者に一定の義務を課すAI法(AI Act)を制定するというアプローチが取られています。これに対して日本は、AIに関する技術の変化やリスクの多様性等に対して、リスクベースで迅速・柔軟に対応可能なガイドライン(ソフトロー)に基づいて対応するアプローチを選択しました。すなわち、本ガイドラインは、法律のように事業者に対して画一的な義務(ルール)を課すものではなく、各事業者が、自発的・継続的に自社によるAIの利活用によって生じるリスクを評価し、その低減を図るための技術的、組織的、及び社会的システム(AIガバナンス)を設計及び運用する際の指針を示すものです。

 本ガイドラインは、直接的な法的拘束力を伴わないソフトローとしての性質を有するにとどまります。AIガバナンスの設計・運用を含む取組みは、「各主体が開発・提供・利用するAIシステム・サービスの特性、用途、目的及び社会的文脈を踏まえ、各主体の資源制約を考慮しながら自主的に進めること」が期待されているものであり、各社によって異なり得るものです。しかし、AIの利活用に関する取組みが社会から不適切もしくは不十分と評価される場合は、事業活動における機会損失が生じ、事業価値の維持が困難となる事態を招くおそれがあると本ガイドラインで指摘されているように、AIの利活用に伴うレピュテーションリスクも含めて考えれば、本ガイドラインに示されている取組みを自社に必要な範囲で積極的に取り入れることが重要です。

2. 個別法との関係

 なお、AIの利活用によって生じるリスクの中には、例えば、第三者の著作物をAIの学習に利用することが著作権侵害に該当しないか、個人データをプロンプトに入力することが個人情報保護法違反に該当しないか、AIによる分析結果を提供することが個別の業法(医師法、弁護士法等)に違反しないか等、既存の個別法に抵触するリスクも含まれます。したがって、AIガバナンスを検討する際には、既存の個別法との関係にも留意する必要がありますが、本ガイドラインは、個別法の解釈を示すものではありません。既存の個別法との関係については、引き続き検討する必要があります。

3. AIホワイトペーパー2024・責任あるAI推進基本法(仮称)との関係

 2024年4月11日に自由民主党デジタル社会推進本部「AIの進化と実装に関するプロジェクトチーム」(以下「本PT」)から公表された「AIホワイトペーパー2024 ステージⅡにおける新戦略-世界一AIフレンドリーな国へ-」(以下「AIホワイトペーパー2024」)は、世界一AIフレンドリーな国を実現するための国家戦略を提言するものであり、本ガイドラインとは性質が異なるものですが、AIホワイトペーパー2024においても、「AI事業者ガイドライン等に基づき事業者等が自発的・継続的にリスクを評価し、低減を図ることを日本のAIガバナンスの基本とすること」が提言されており、本ガイドラインの重要性が再確認されています。さらに、「幅広い業種において、その周知・浸透、各分野に応じた具体的な実装・実行等の取組を推進すること」も提言されており、今後は、各分野に応じた個別のガイドラインや取組みの議論が加速することが予想されます※1。その意味でも、現時点において本ガイドラインの内容を把握しておくことは重要といえます。

 なお、AIホワイトペーパー2024では、本稿の執筆者の殿村と丸田もメンバーとなっている本PTのワーキンググループ有志により提案された「責任あるAI推進基本法(仮称)」の考え方等を踏まえ、「政府は、極めて大きなリスクがあるAIモデルに対し、必要最小限の法的枠組みを整備すること」も提言されています。上述のとおり、日本は本ガイドラインに基づくソフトローアプローチを採用していますが、国民の安心・安全を揺るがすリスクがある一定の規模・目的のAI基盤モデルの開発者に対して、安全性や透明性に関する必要最小限の法的義務(ハードロー)を課すことが検討されています。

4. 本ガイドラインの構成

 本ガイドラインは本編と別添に分かれており、本編はAIの利活用により「どのような社会を目指すのか」(why、基本理念)とそのために「どのような取組みを行うか」(what、共通の指針)を示し、別添では「どのようなアプローチで取り組むか」(how)を具体的に示しています。本編と別添を併せると分量が多いので、まずは本稿でポイントを押さえてから本ガイドラインを読み進めていただければ幸いです。

本ガイドラインの適用対象

 本ガイドラインの適用対象は、「AI開発者」、「AI提供者」及び「AI利用者」とされており、それぞれの定義は以下のとおりです。

AI開発者 AIシステム※2を開発する事業者
AI提供者 AIシステムをアプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとしてAI利用者又は場合によっては業務外利用者に提供する事業者
AI利用者 事業活動において、AIシステム又はAIサービスを利用する事業者

 このように、事業活動においてAIを利活用する者が広く本ガイドラインの適用対象者となる点に留意が必要です。他方、プライベートでChatGPTを使うような「業務外利用者」や、データを提供するだけの「データ提供者」は本ガイドラインの適用対象外とされています。

 後述するように、AI開発者、AI提供者、AI利用者のいずれに該当するかによって、重要となる事項は変わってきます。また、AI開発者としての立場とAI提供者としての立場を兼ねる場合や、AI開発者としての立場とAI利用者としての立場を兼ねる場合等も考えられるので、自社がどのような形でAIの利活用にかかわるのかを見極める必要があります。

基本理念・原則・共通の指針と主体毎の重要事項

1. 基本理念・原則・共通の指針

 本ガイドラインでは日本及び多国間の枠組みで目指すべき方向性として、「人間の尊厳が尊重される社会(Dignity)」、「多様な背景を持つ人々が多様な幸せを追求できる社会(Diversity&Inclusion)」及び「持続可能な社会(Sustainability)」の3つの「基本理念」が掲げられています。

 この基本理念を実現するための取組みにおいて念頭に置くべき事項として、後述の10個の「共通の方針」を文章化した「原則」が定められており、この原則では、各主体が取り組むべき7つの事項と社会と連携した取組みが期待される3つの事項に共通の指針を分けて記載してあります。AIの利活用をする企業にとっては特に前者の7項目が重要となります。これらの共通の指針の概要を記したのが以下の表1です。

表1 共通の指針の概要

共通の指針 概要
各主体が取り組む事項
人間中心
  • (人間の尊厳及び個人の自律)AIが活用される際の社会的文脈を踏まえ、人間の尊厳及び個人の自律を尊重する
  • (AIによる意思決定・感情の操作等への留意)人間の意思決定等を不当に操作すること等を目的としたAIシステム・サービスの開発・提供・利用は行わない
  • (偽情報等への対策)AIが⽣成した偽情報・誤情報・偏向情報のリスクを踏まえ、必要な対策を講じる
  • (多様性・包摂性の確保)より多くの人々がAIの恩恵を享受できるよう社会的弱者によるAIの活用を容易にするよう注意を払う
  • (利用者支援)合理的な範囲で情報を提供し、選択の機会の判断のための情報を適時かつ適切に提供する
  • (持続可能性の確保)ライフサイクル全体で、地球環境への影響も検討する
安全性
  • (人間の生命・身体・財産、精神及び環境への配慮)必要に応じて客観的なモニタリング及び対処も含めて人間がコントロールできる制御可能性を確保する
  • (適正利用)主体のコントロールが及ぶ範囲で本来の目的を逸脱した提供・利用により危害が発生しないようにAIシステム・サービスの開発・提供・利用を行う
  • (適正学習)学習等に用いるデータの正確性・必要な場合には最新性(データが適切であること)等を確保する
公平性
  • (AIモデルの各構成技術に含まれるバイアスへの配慮)バイアスの要因となるポイントを特定する
  • (人間の判断の介在)AIに単独で判断させるだけでなく適切なタイミングで人間の判断を介在させる利用を検討する
プライバシー保護
  • (AIシステム・サービス全般におけるプライバシーの保護)社会的文脈及び人々の合理的な期待を踏まえ、ステークホルダーのプライバシーの重要性に応じた対応を取る
セキュリティ確保
  • (AIシステム・サービスに影響するセキュリティ対策)AIシステム・サービスの機密性・完全性・可用性を維持し、その時点での技術水準に照らして合理的な対策を講じる
  • (最新動向への留意)日々生み出される新たな攻撃手法に対応するための留意事項を確認する
透明性
  • (検証可能性の確保)データ量又はデータ内容に照らし合理的な範囲で、AIシステム・サービスの開発過程、利用時の入出力等のログを記録・保存する
  • (関連するステークホルダーへの情報提供)それぞれが有する知識及び能力に応じ、情報の提供及び説明を行う
  • (合理的かつ誠実な対応)プライバシー及び営業秘密を尊重して、社会的合理性が認められる範囲で実施する
  • (関連するステークホルダーへの説明可能性・解釈可能性の向上)関連するステークホルダーの納得感及び安心感の獲得等を目的として、説明を受ける主体がどのような説明が必要かを共有し、必要な対応を講じる
アカウンタビリティ
  • (トレーサビリティの向上)開発・提供・利用中に行われた意思決定等について、技術的に可能かつ合理的な範囲で追跡・遡求が可能な状態を確保する
  • (「共通の指針」の対応状況の説明)「共通の指針」の対応状況について、情報の提供及び説明を定期的に行う
  • (責任者の明示)各主体においてアカウンタビリティを果たす責任者を設定する
  • (関係者間の責任の分配)関係者間の責任について、主体間の契約等により、責任の所在を明確化する
  • (ステークホルダーへの具体的な対応)必要に応じAIガバナンスに関するポリシー等の方針を策定し、公表する
  • (文書化)上記に関する情報を文書化して一定期間保管し、適時かつ適切なところで、入手可能かつ利用に適した形で参照可能な状態とする
社会と連携した取組みが期待される事項
教育・リテラシー
  • 主体内のAIに関わる者が、AIの正しい理解・利用ができる知識等を持つために、必要な教育を行う
公正競争確保
  • AIをめぐる公正な競争環境の維持に努める
イノベーション
  • 社会全体のイノベーションの促進に貢献するよう努める

2. 主体毎の重要事項

 本ガイドラインは、共通の指針で示された取組みに加えて、AIシステムのライフサイクルに沿ってAI開発者、AI提供者、AI利用者という各主体に重要となる事項を示しており(本編第3部から第5部)、その具体的な手法が細かく別添3から5において示されています。なお、これらの重要な事項についてはチェックリスト形式で別添7Cにおいて主体毎に整理されていますのでご参照ください。

AIガバナンスの構築

 本ガイドラインではAIガバナンスの構築についても具体的な手法が示されています(本編第2部E及び別添2)。上述のとおり、AIガバナンスとは、「AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクト(便益)を最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運用」と定義されています。AIに関する技術の変化やリスクの多様性等に対応するためには、このような複合的な体制(ガバナンス)を構築することが有用であると考えられていますが、その具体的な内容は、各主体が開発・提供・利用するAIシステム・サービスの特性、用途、目的及び社会的文脈を踏まえ、各主体の資源制約を考慮しながら検討することが期待されており、各社による検討が必要となります。

 AIガバナンスにおいては、①「環境・リスク分析」、②「ゴール設定」、③「システムデザイン」、④「運用」、⑤「評価」(及び⑥「環境・リスク分析の再分析」)といったサイクルを、マルチステークホルダーで継続的かつ高速に回転させていく、「アジャイル・ガバナンス」の実践が重要とされており、これを図示したのが以下の図1です。

図1 アジャイル・ガバナンスの基本的なモデル※3

図1 アジャイル・ガバナンスの基本的なモデル※3

 上記①~⑥の構築ステップを簡潔にまとめると、①まずは自社の現状及びAIの社会的受容状況を分析し、②経営陣のコミットメントを示すためにAIガバナンス・ゴールを設定する。③設定したAIガバナンス・ゴールと現状の乖離を評価し、乖離に対応するための組織全体の方針やプロセスを経営陣が決定し、④システムの運用状況を説明可能な状態を確保する。その上で、⑤組織のガバナンス状況を継続的にモニタリング・評価し、⑥その評価結果を踏まえて再度①の分析を実施するという流れになります。

 さらに、別添では上記①~⑥の構築ステップ毎に行動目標が設定されており、これらを表にしたものが下記の表2です。これらの行動目標にはそれぞれ「実践のポイント」及び「実践例」が示されており、具体的にどのような取組みをすればよいのか分かるようになっています。例えば、「2-1 AIガバナンス・ゴール」の設定に関しては、「共通の指針」への対応事項等を示す自社の取組方針(「AIポリシー」、「データ活用ポリシー」等)を設定することが考えられます。

表2 AIガバナンスの構築ステップと行動目標※4

表2 AIガバナンスの構築ステップと行動目標※4

その他

 ここまで紹介した内容の他、本ガイドライン別添8では採用AIを扱う事業者を例にとり、本ガイドラインに沿って、AI開発者、AI提供者、AI利用者が重要事項の検討を行った場合の「主体横断的な仮想事例」が掲載されています。チェックリストの記載例も示されており、自社でのAI利活用にも応用いただける内容となっておりますのでご参照ください。

おわりに

 AIは日々進歩しており、AIの利活用に関するリスクを事前に網羅的に検討することは非常に困難ですが、本ガイドラインは最新の諸外国の動向も踏まえてAIの利活用時に実施することが望ましい取組みを具体的に示した文書であり、これに従った取組みを実践することでリスクを効果的に低減することが期待できます。

 AIガバナンスの構築を含む本ガイドラインで求められている対応は、基本的に各社の裁量に委ねられていますが、最終的には経営判断であり、リスクが顕在化した場合の経営責任にもつながり得るものです。共通の指針で取り上げられている各主体が取り組む事項やAIガバナンスの構築に関しては法的観点からの検討を要する項目も多く存在するため、プロジェクトの早い段階から法律の専門家を巻き込むメリットがあると考えられます。また、欧州を含む日本国外でグローバルに事業を展開する事業者は、欧州AI法(AI Act)を含む諸外国の規律も遵守する必要があり、検討すべき項目は多岐にわたります。AIガバナンスの構築に向けた取組みに関してお困りのことがあればお気軽に弊所までお問い合わせください。

脚注一覧

※1
例えば、ヘルスケア領域は、利用者の健康や生命に関わり、特に機微性の高い要配慮個人情報を取り扱うため、一般的なガイドラインとは別に、業界固有の社会的責任やリスクを十分に考慮した取組みが欠かせないことから、日本デジタルヘルス・アライアンス(JaDHA)は、本ガイドラインの最終版の公表に先立つ2024年1月18日に、「ヘルスケア事業者のための生成AI活用ガイド」を公表しています。

※2
本ガイドラインにおける「AI」とは「AIシステム自体・・・又は機会学習をするソフトウェア若しくはプログラムを含む抽象的な概念」をいい、「AIシステム」とは「活用の過程を通じて様々なレベルの自律性をもって動作し学習する機能を有するソフトウェアを要素として含むシステム」をいいます。

※3
本ガイドライン本編p25図6

※4
本ガイドライン別添p19表3

本ニュースレターは、各位のご参考のために一般的な情報を簡潔に提供することを目的としたものであり、当事務所の法的アドバイスを構成するものではありません。また見解に亘る部分は執筆者の個人的見解であり当事務所の見解ではありません。一般的情報としての性質上、法令の条文や出典の引用を意図的に省略している場合があります。個別具体的事案に係る問題については、必ず弁護士にご相談ください。


全文ダウンロード(PDF)

Legal Lounge
会員登録のご案内

ホットなトピックスやウェビナーのアーカイブはこちらよりご覧いただけます。
最新情報をリリースしましたらすぐにメールでお届けします。

会員登録はこちら

弁護士等

テクノロジーに関連する著書/論文

AI・ロボットに関連する著書/論文

決定 業務分野を選択
決定