
殿村桂司 Keiji Tonomura
パートナー
東京
NO&T Technology Law Update テクノロジー法ニュースレター
ニュースレター
3学期中に読みたい「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」(2025年1月)
ChatGPT、Bing Chat、Bardといった対話型生成AIの有用性は近時急速に認識されつつありますが、一方で対話型生成AIから誤りを含む回答がなされたり、事実と全く異なる内容がもっともらしく出力されたりする「ハルシネーション(幻覚)」等、その弊害についても指摘がなされています。
文部科学省・初等中等教育局は、対話型生成AIの教育現場での利用に関する議論の高まりを受け、2023年5月19日には、「Chat GPT等の生成AIの学校現場の利用に向けた今後の対応について」と題する文書※1を公表していましたが、その後の更なる検討を経て、同年7月4日、「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン※2」(以下、「本ガイドライン」といいます。)を公表しました。
本ガイドラインは、教師等の学校関係者が教育現場において対話型生成AIを活用することの適否を判断する際の参考資料として示されたものですが、その内容は、夏休みを迎える今、保護者や児童生徒にとっても確認しておく必要性が高いものといえます。また、本ガイドラインは、高等学校段階までの初等中等教育段階における教育現場における利用を前提とした内容ですが、教育産業に従事する事業者や子どものデータを取り扱う事業者にとっても参考になるものであり、さらに、その他の事業者にとっても、生成AIの利用に関する社内ルール整備や、各社員が生成AIの性質やメリット・デメリットを理解した上で使いこなせるようになるための社員教育の検討にも資する有益なものとなっています。
そこで、本ニュースレターでは、本ガイドラインの以下の構成に則して、本ガイドラインの位置付けやその概要について説明するとともに、今後の展望等について述べます。
本ガイドライン・項目1は、本ガイドラインが、①学校関係者が現時点で生成AI(主として対話型の文章生成AI)の活用の適否を判断する際の参考資料として取りまとめられたものであること、②教育現場における生成AIの活用を一律に禁止したり、その活用方法に関し何らかの義務づけを行う性質のものではないこと、③2023年6月末日時点の知見に基づく暫定的なものであり、今後も機動的な改訂が予定されていることを強調しています。
本ガイドライン・項目2は、本ガイドラインが対象とする対話型生成AIがどのようなものかを図を用いて説明するとともに、利用に当たって必要な能力や認識しておくべき懸念も併せて説明しています。まずは、本ガイドラインの本文2~3頁及び【参考2】「主な対話型生成AIの概要」(同16頁)を読みながら、ここで紹介されているChatGPT、Bing Chat、Bard等の対話型生成AIを実際に体験し、この項目2における説明を実感してみるのもよいかもしれません。
なお、実際に利用するに当たっては、本ガイドラインでも繰り返し言及されているとおり、利用規約に規定されている年齢制限や保護者同意の遵守、利用料の要否等を十分に確認してください。ChatGPT、Bing Chat、Bardについては、本ガイドライン・【参考2】で、これらの情報がまとめられており、参考になります。
本ガイドライン・項目3(1)は、生成AIの教育利用の方向性についての基本的な考え方として、大別すると、次の3つの考え方を示しています。
まず、本ガイドラインは、教育利用との関係で、生成AIの利用は限定的な利用から始めることが適切であると述べた上で、並行して行うパイロット的な取組によって得た知見に基づきさらに議論を行うとしています。その背景として、①生成AIの利用は、これに先立つ相応の教育活動が重要であるが、それが可能か否かは児童生徒の発達の段階等に左右され得ること、②生成AIの利用の適否は、学習指導要領に示す資質・能力の育成を阻害しないか、教育活動の目的を達成する観点で効果的か否か等によって判断すべきであるところ、その判断を行う教師にもAIリテラシーが求められることが挙げられています。
次に、本ガイドラインは、学校外での利用との関係で、AI時代に必要な資質・能力の向上を図る教育活動の必要性について述べ、そのために必要となる情報活用能力※3の具体例としてファクトチェックを挙げるとともに、その習慣付けにも言及しています※4。
最後に、本ガイドラインは、生成AIの教員研修や校務での適切な利用により、教師のAIリテラシー向上や働き方改革に繋げる必要があると述べています。教師にもAIリテラシーが必要であるとの考え方は上述のとおりですが、生成AIを活用した教師の働き方改革についても言及がされていることは、昨今の教師の過酷な労働環境も念頭に置いているものと推察されます。
本ガイドライン・項目3(2)は、さらに、上記(1)で述べた生成AIの利用の適否に関する基本的な考え方に基づくと、具体的事例においてどのように判断することになるのかを、(あくまで例示であり、個別具体に照らし判断する必要があるとの留保を付しつつも)例示しています。
まず、本ガイドラインは、生成AIの利用が適切でないと考えられる例として、情報活用能力が十分育成されていない段階において自由に使わせること(事例1-①)、各種コンクールの作品やレポート・⼩論⽂などについて、⽣成AIによる⽣成物をそのまま⾃⼰の成果物として応募・提出すること(事例1-②)、音楽・美術など子どもの感性や独創性を発揮させたい場面やテーマに基づき調べる場面で安易に使用させること(事例1-③)、定期考査や小テストなどで使わせること(事例1-⑥)等を挙げています。
他方で、活用が考えられる例としては、生成AIが作成する誤りを含む回答を教材として使用してその性質・限界について子どもに気付かせること(事例2-①)や、グループでの議論を深める目的での活用(事例2-③)、英会話の相手等としての活用(事例2-④)、生成AIを用いた高度なプログラミング等の活用(事例2-⑥)等が挙げられています。本ガイドラインは、学ぶことの意義について理解を深める指導及び「学びに向かう力、人間性等」の涵養の重要性や、教育活動におけるデジタルとリアルのバランスや調和に一層留意する必要性に言及していますが、このような考え方とも整合する活用例といえます。
また、本ガイドラインでは、長期休業中の課題等についても留意事項が示されています。例えばコンクール作品等でAIの使用が禁止されている場合には不正行為に当たることを伝え、AIのみで作品を作ることは自分のためにならないことを指導することや、活用方法の例として、子どもの作った文章を生成AIに修正させ、それを子ども自身で推敲させることも挙げられています。
本ガイドライン・項目3(3)は、生成AIの教育利用の実践に向けて、各学校の生成AIの利用への準備状況等を踏まえて、①全ての学校において必要となる「情報活用能力」の育成強化と、②一部の学校が対象となるパイロット的な取組による(教育利用に向けた)知見の蓄積の2つのアプローチに言及しています。
前者のアプローチの内容として、情報モラル※5教育を充実させることを強調しており、このうち生成AIを意識した内容としては、上述したファクトチェックの方法等を意識的に教えること※6も望ましいとされています。なお、本ガイドライン・【参考1】「各学校で⽣成AIを利⽤する際のチェックリスト」では、各学校で生成AIを利用する際のチェックリストの項目として、「AIを利用した成果物については、AIを利用した旨やAIからの引用をしている旨を明示するよう、十分な指導を行っているか」が挙げられており、未だ確立されていないAIリテラシーの一態様として注目されます。
また、本ガイドライン・項目3(4)は、後者のアプローチ(パイロット的な取組)において、生成AIの活用能力の獲得に至るまでのプロセスを以下の4段階に分けて整理・提案しており(同10頁)、これは、(教育利用との関係では検証中という位置付けにあるものの)民間企業における生成AIの利用に関する社員教育にも参考になるものといえます。
本ガイドライン・項目3(5)は、民間企業と同様、業務の効率化や質の向上など、働き方改革の一環としての校務における生成AIの利用にも言及しています。生成AIはあくまで「たたき台」としての利用を推奨し、最後は教職員自らがチェックし、推敲・完成させることが必要である点が強調されています。
本ガイドライン・項目4(1)は、特に児童生徒との関係では、生成AIに対し、プライバシーや個人情報に関する情報を入力しない/出力されても利用しないことを基本としつつ、そのような種類の情報をもとより機械学習に利用させない設定とすることも、利用上の留意事項として挙げています。なお、教師が個人情報を利用する場合に、個人情報保護法違反とならないようにするためには、上記の点に加えて、その利用が利用目的達成のため必要最小限でなければならないことを指摘しています。
本ガイドライン・項目4(2)は、ChatGPT、Bing Chat、Bard等が、「教育情報セキュリティポリシーに関するガイドライン」(2022年3月)※8との関係では、同ガイドライン1.9.4の定める「約款による外部サービス」※9として分類されることを明示しているため、同ガイドライン144~147頁のとおり、(要機密情報の取扱をはじめ)適切なセキュリティ対策を講じる必要があります。
本ガイドライン・項目4(3)は、生成AIによる成果物の利用と著作権侵害の成否の判断枠組が、生成AIを利用しない場合と同様であること、すなわち、他人の著作物を利用する行為であって、当該著作物と類似性及び依拠性が認められ、権利制限規定の適用もなければ、その利用には著作権者の許諾を要することを述べています※10。
権利制限規定としては、例えば、学校の授業では、著作権法第35条により許諾なく著作物の複製や公衆送信ができるため、授業の範囲内で利⽤することは可能ですが、広く⼀般向けのHPへの掲載や、外部のコンテストへの作品の提出など、授業⽬的の範囲を超えた利⽤と判断される場合は著作権者の許諾を要する点に留意が必要です。
生成AIの教育利用との関係では、子どもの情報活用能力の育成段階を踏まえつつ、まずは、子どもに生成AIそのものについての理解を深めてもらうことが重要であり、最終的には自己の判断が重要であることを十分に理解してもらうことが必要です。
そのためには、まずは身近な大人が、生成AIについて十分に理解することが重要です。夏休みを迎えるに当たって、本ニュースレターと本ガイドラインを見ながら、大人も一緒になって、子どもと生成AIを体験してみるのもよいかもしれません。
また、個人情報・プライバシーの保護や著作権保護の観点で述べたように、生成AIを活用するに当たっては、様々な法的リスクについて留意する必要があるため、その実装に当たっては、専門家の助言を得た上での慎重な対応が求められます。当事務所ではテクノロジー法、知的財産法、個人情報保護・データプライバシーといった分野につき、本ニュースレターの他にも執筆しておりますので※11、よろしければこちらもご参照ください。
本ガイドラインは暫定的なものであることが強調されているとおり、今後のアップデートが想定されるため、引き続き情報発信を行って参ります。
※1
「Chat GPT等の生成AIの学校現場の利用に向けた今後の対応について」(最終アクセス:2023年7月11日)
※2
「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン」(最終アクセス:2023年7月11日)
※3
「世の中の様々な事象を情報とその結び付きとして捉え,情報及び情報技術を適切かつ効果的に活⽤して、問題を発⾒・解決したり⾃分の考えを形成したりしていくために必要な資質・能⼒」のことをいいます(文部科学省『小学校学習指導要領(平成29年告示)解説 総則編』第3章・第2節・2(1)イ(50頁))(最終アクセス:2023年7月11日)。
※4
上述のとおり、生成AIには誤りが含まれる可能性が常にあるところ、AIの利用においては、AIに人々が過度に依存したりすることのないよう、人が自らどのように利用するかの判断と決定を行うことが求められるということは、既に政府が2019年3月29日に公表した「人間中心のAI社会原則」の一つである「人間中心の原則」において提唱されています(最終アクセス:2023年7月11日)。
本ガイドラインではそのような「人間中心の原則」を教育面から支えるものとして、生成AIがどのような仕組みで動いているかという理解や、どのように学びに活かしていくかという視点を持って、将来AIを使いこなすための力を意識的に育てる必要があるとの考え方も指摘されており、本ガイドラインの構成もそのような考え方を意識したものになっていることが窺えます。
※5
情報社会で適正な活動を⾏うための基になる考え⽅と態度をいいます(文部科学省『小学校学習指導要領(平成29年告示)解説 総則編』第3章・第3節・1(3)(86頁))。
※6
その一環として、教師が生成AIの生成する誤りを含む回答を教材として使用し、その性質やメリット・デメリット等について学ばせたり、個人情報を機械学習させない設定を教えることも考えられるといった具体的なアイデアが示されており参考になります。
ただし、子どものデータ保護の観点からは、自分で設定しなくてもデフォルトで個人情報を機械学習させない設定にしておくことも考えられます。この点については、森大樹・早川健・丸田颯人「子どものデータ保護-欧米における国際的な動向」(NO&T個人情報保護・データプライバシーニュースレター No.32)(2023年6月)もご参照ください(最終アクセス:2023年7月11日)。
※7
なお、本ガイドラインには記載されていませんが、「第3回AI戦略会議議事要録」5貢では、生成AIがいじめなどに使われてしまうといった、倫理的な観点から人権も課題となり得ることが指摘されています(最終アクセス:2023年7月11日)。
※8
「教育情報セキュリティポリシーに関するガイドライン」(最終アクセス:2023年7月11日)。
※9
文部科学省「教育情報セキュリティポリシーに関するガイドライン」1.9.4(同144~147頁)参照(最終アクセス:2023年7月11日)。
※10
この点については、文化庁著作権課による2023年度の著作権セミナーの講演映像及び講義資料も参考になります(最終アクセス:2023年7月11日)。
※11
例えば、殿村桂司・今野由紀子「生成AI(Generative AI)を巡る近時の動向」(NO&T Technology Law Update テクノロジー法ニュースレター No.37(2023年6月))があります(最終アクセス:2023年7月11日)。
本ニュースレターは、各位のご参考のために一般的な情報を簡潔に提供することを目的としたものであり、当事務所の法的アドバイスを構成するものではありません。また見解に亘る部分は執筆者の個人的見解であり当事務所の見解ではありません。一般的情報としての性質上、法令の条文や出典の引用を意図的に省略している場合があります。個別具体的事案に係る問題については、必ず弁護士にご相談ください。
(2025年5月)
東崎賢治、近藤正篤(共著)
(2025年5月)
大久保涼
(2025年5月)
関口朋宏(共著)
中央経済社 (2025年5月)
長島・大野・常松法律事務所 欧州プラクティスグループ(編)、池田順一、本田圭、福原あゆみ、吉村浩一郎、殿村桂司、小川聖史、大沼真、宮下優一、水越政輝、アクセル・クールマン、山田弘、中所昌司、松宮優貴、関口朋宏、髙橋優、松岡亮伍、嘉悦レオナルド裕悟(共著)、小泉京香、甲斐凜太郎、藤田蒔人、山本安珠(執筆協力)
中央経済社 (2025年5月)
長島・大野・常松法律事務所 欧州プラクティスグループ(編)、池田順一、本田圭、福原あゆみ、吉村浩一郎、殿村桂司、小川聖史、大沼真、宮下優一、水越政輝、アクセル・クールマン、山田弘、中所昌司、松宮優貴、関口朋宏、髙橋優、松岡亮伍、嘉悦レオナルド裕悟(共著)、小泉京香、甲斐凜太郎、藤田蒔人、山本安珠(執筆協力)
(2025年4月)
平山貴仁
(2025年4月)
殿村桂司、小松諒(共著)
東崎賢治、羽鳥貴広、近藤正篤(共著)
殿村桂司、今野由紀子、丸田颯人(共著)
(2025年2月)
殿村桂司、カオ小池ミンティ、小松諒、松宮優貴(共著)
殿村桂司、近藤正篤、丸田颯人、小宮千枝(共著)
殿村桂司、今野由紀子、丸田颯人(共著)
商事法務 (2025年4月)
長島・大野・常松法律事務所 農林水産・食品プラクティスチーム(編)、笠原康弘、宮城栄司、宮下優一、渡邉啓久、鳥巣正憲、岡竜司、伊藤伸明、近藤亮作、羽鳥貴広、田澤拓海、松田悠、灘本宥也、三浦雅哉、水野奨健(共編著)、福原あゆみ(執筆協力)
(2025年3月)
中所昌司
(2025年2月)
殿村桂司、小松諒、今野由紀子、松宮優貴(共著)
川合正倫、鹿はせる、艾蘇(共著)
東崎賢治、羽鳥貴広、近藤正篤(共著)
(2025年3月)
工藤靖、今野由紀子、犬飼貴之(共著)
(2025年3月)
鈴木明美、松宮優貴(共著)
(2025年2月)
殿村桂司、小松諒、今野由紀子、松宮優貴(共著)
(2025年5月)
関口朋宏(共著)
(2025年5月)
川合正倫、艾蘇(共著)
川合正倫、艾蘇(共著)
(2025年4月)
関口朋宏(共著)
(2025年5月)
東崎賢治、近藤正篤(共著)
東崎賢治、羽鳥貴広、近藤正篤(共著)
東崎賢治、加藤希実(共著)
(2025年3月)
中所昌司
(2025年5月)
東崎賢治、近藤正篤(共著)
東崎賢治、羽鳥貴広、近藤正篤(共著)
(2025年3月)
中所昌司
(2025年4月)
加藤志郎、嶋岡千尋(共著)