初等中等教育段階における生成AIの利活用に関する検討会議(第4回) 議事録

1.日時

令和6年9月24日(火曜日)10時00分~12時00分

2.場所

Web会議による開催

3.議題

  1. 有識者ヒアリング
  2. 委員からの発表及び意見交換
  3. その他

4.配付資料

5.議事録

初等中等教育段階における生成AIの利活用に関する検討会議 第4回

令和6年9月24日

【石川座長】 おはようございます。定刻となりましたので、ただいまから、初等中等教育段階における生成AIの利活用に関する検討会議、第4回になりました、これを開催させていただきます。
 本日は御多忙の中、御出席いただきまして誠にありがとうございます。まずは、会議開催方式及び資料につきまして、事務局より説明をお願いいたします。
【渡部学校デジタル化PTサブリーダー】  事務局から御案内をさせていただきます。
 本会議は、前回と同様、原則オンライン方式で開催させていただきます。ウェブ会議を円滑に行う観点から、大変恐れ入りますが、御発言時以外はマイクをミュートにしていただくようお願いいたします。カメラにつきましては、御発言時以外も含め、会議中はオンにしていただきますようお願いいたします。委員の皆様には御不便をおかけすることもあるかと存じますが、何とぞ御理解のほどお願いいたします。
 続きまして、資料の確認をさせていただきます。本日の資料は、議事次第にございますとおり資料1から3まで、参考資料が1と2となっております。御不明な点がございましたらお申し付けください。
 以上でございます。
【石川座長】  ありがとうございます。
 なお、本日は、報道関係者と一般の傍聴者向けに本会議の模様をZoomウェビナーにて配信をいたしております。御承知おきいただければと思います。
 それでは、議題に入りたいと思います。まず、有識者ヒアリングということです。本日は国立情報学研究所の新井紀子教授より御発表いただきたいと考えております。新井教授は国立情報学研究所にて社会共有知研究センターのセンター長でもあり、2011年より人工知能プロジェクト「ロボットは東大に入れるか」を指導された後、2016年より、読解力を診断するリーディングスキルテストの開発を指導されていると伺っております。
 それでは、新井教授、よろしくお願い申し上げます。
【新井氏】    皆様、おはようございます。それでは、画面を共有しまして、資料に沿ってお話をさせていただければと思います。画面が表示されておりますでしょうか。
【石川座長】  はい。
【新井氏】    では、生成AIの教育に及ぼす影響について、いろいろな観点で私の分かるなりにまとめてみましたので、お話をさせていただきます。
 まずは、さらっとしたおさらいになりますけれども、ChatGPTが今、多分論点の中心になってくるかと思いますので、そういうことで、まずは、チャット生成AIの代表格としてChatGPTを例に出してお話しします。
 こちらはもう既に相澤彰子先生のようなこの分野の第一人者がいらっしゃるので、もう既に資料が共有されていると思いますけれども、このChatGPTはOpenAIが大規模言語モデルGPT-3に基づいて2022年に公開したチャットボットです。GPT-3そのものは言語予測モデルです。これは、そこまでの文から次の語を予測するというためのモデルです。
 もっともらしい文の生成を目指していますので、正しさをそもそも目指しているわけではありません。そのため、もっともらしさを優先することによってハルシネーションと呼ばれるでっち上げが発生する。これはよく、誤った情報がネット上にあるために、生成AIは誤ったことを書いてしまうことがあるというふうに報道されることがありますが、それは誤りで、どちらかというと、正しいことというのはAIというのは学びようがある意味ないので、それでもっともらしさを優先することででっち上げが発生するというふうにお考えください。
 GPT-4以降に関する情報というのは公開されていないということです。
 最近ChatGPTが性能が上がってきているのは、現行モデルのほうというよりは、プロンプトに対してかなり柔軟かつ的確に対応するという強化学習が多分奏功しているからだと考えられます。また、RAGというのを新しく8月の終わりぐらいから使うようになりまして、比較的最近の時事問題についても返事ができるようになっています。
 ChatGPTが出力する文はもっともらしさを最適化するように設計されていますので、ファクトが出現する、真実が出現するというのはむしろ副産物だというふうにお考えになったほうがいいかと思います。私は、この後の発表は、ハルシネーションというのは、理論的にというか、根本的になくす方法は今のところ見えていないし、今の技術の連続的な先にはないという前提でお話をします。
 生成AIを教育に利用する際の問題ですけれども、ハルシネーションには本質的な解決の見込みがないので、3.5以降、出力を、大変立派な日本語とか英語が出てくるんですけれども、これを正確に解釈する高度な読解力がまず必要になります。出力のファクトチェックをするための高度技能も必要になります。
 例えば、こちらを御覧ください。これは2022年の東京大学の入学試験の世界史の第1問です。いろいろ書いてありますけれども早い話が、8世紀から19世紀までの時期におけるトルキスタンの歴史的展開について、下に書かれている8つのキーワードを埋め込んで600字以内ぐらいにまとめなさいという意味です。
 これで3.5で出したのが、これが出力結果です。「トルキスタンの歴史は古代から深く根を張っており」とかといろいろ書いてあるんですけれども、私は世界史を受験のときには取りましたけれども、これのファクトチェックをするのに1日以上、1日半ぐらいかけて、最終的に諦めました。
 例えば、「13世紀に入り、トルキスタンはバーブルによって征服されました」みたいなことは比較的に簡単にファクトチェックができて、これは間違っているんですけれども、一番難しいのはこういうようなところです。「カラハン朝は中国の宋朝との貿易関係を築き、文化的な交流が盛んになりました」とか、「トルキスタンのアートや建築などが発展し、重要な文化的な財産が残されました」、こういうようなものは非常にファクトチェックが難しくて、こういうものがあるかどうか調べても、本当はないので幾ら調べても出てこないんですよね。出てこないので、1日半かけても、本当かどうかが分からないという状態に陥りました。
 これは代ゼミに採点していただいた結果、採点結果0点。全部間違っているということだったんですけれども。ですから、結局、ChatGPTというのは、そのことについて既に知っている人しか使えないということなんですよね。知らない人が知るために使うことはできなくて、既に知っている人が自分の劣化版コピーとして使うのに非常にいいということだと思います。
 ということで、ハルシネーションに関連して、ChatGPT3.5以降の出力は、読解力がまず高く、ファクトチェックの技能が高く、専門性がある人か、それだけでは足りなくて、自らの専門分野で読むとき以外はほぼハルシネーションに気付くことができないということであります。
 ですから、児童・生徒に利用させた場合、教員、ましてや児童・生徒に生成AIの出力の誤りに気付いたりファクトチェックすることを期待することにそもそも無理があると考えられます。
 教員自身が情報リテラシー教育で使う場合でも、予期せぬ誤りに教員が気付けない可能性は高いです。例えば、グーグルがGeminiを出したときにプレスリリースに使った文章に、ハップル望遠鏡の話だったかもしれないですけれども、誤りが含まれていたんですが、それに気付かないでピチャイがプレスリリースで使って、それですぐに誤りがネット上で指摘されて、株価が暴落するというようなことがありましたから、それぐらいみんな気付けないんだと思います。
 ですから、セキュリティーが担保された状態の中で限られた業務で使う以外では、まず、誤った情報を教えっ放しにすることにつながったり、あるいは教員の多忙が増すかのいずれかにつながるということが懸念されます。
 次ですけれども、生成AIを教育利用する際の問題点の2なんですが、学習できるデータは基本的に無償でネット上に公開されている情報に実は限定されています。私たちは何でもデジタル化されたものは学習されているというふうに思い込んでいますけれども、そんなことないです。会員登録しないと見ることができないサイト、例えば、多くの新聞サイト、ポプラディアネットなどのデータは学習ができません。特定の情報ばかりを学習しがちになりますから、AIなので不偏不党・公平だと考えるのはミスリーディングです。
 例えば、最近、8月の終わりぐらいにChatGPTがRAGを導入しましたが、それで、最近の自民党総裁選について聞いているうちに、出典が偏っていることに私は気付きました。その偏っている出典が、「Japan Forward」という私には耳なじみのないサイトでした。それで、どうしてChatGPTはいつもソースが「Japan Forward」なんですかというふうに聞いてみました。
 そうしたら、「私が利用するソースは、利用可能な情報の中から信頼性の高いものを選択して提供しています」とかと言っているんですけれども、英語での情報があるものを優先して学習しているらしい。あるいは、提供しているらしい。そういうRAGの仕様になっているらしいということが分かりました。これが8月29日のスクリーンショットです。
 「Japan Forward」というのは、「信頼性の高いものを選択して提供しています」と書いていますけれども、実際そんなに古いものではなくて、2023年に開設された産建新聞社の支援を得て創設した新しいインターネットの英文ニュース・オピニオンサイトというものでした。だから、英語で無償でクロールしたときに幾らでも取ってこられないと、使わないということによって内容が偏るということが考えられます。
 では、改めて児童・生徒は、教員は生成AIを使いこなすことができるかということなんですけれども、それに関して私がリーディングスキルテストというテストを提供しているので、それに基づいてお話をしたいと思います。
 リーディングスキルテストというのは、今、項目応答理論でこれまで150万人以上に提供してきたテストです。これは、まず、教科書とか新聞など出典にした短い文章を読み解けるかどうかをテストするんですが、どういう文書を取るかというと、知識や情報を伝達する目的で書かれた自己完結的な文書というのを自分で読み解く力を測っています。
 「自己完結的」というのは初出の専門用語の定義が書かれているような文書のことで、例えば、教科書、辞書、事典、行政文書、取扱説明書、新聞などが含まれています。これは、テクノロジーが進化し、学校で学ぶ知識のアップデートが必要な時代には不可欠な能力だと私たちは考えています。これを一応「シン読解力」というふうに名付けて、この「シン読解力」を測るために考案したのがリーディングスキルテストです。私たちは、シン読解力が高いと自学自習力が高いので、全般的に学力は高くなるという仮説に基づいてこのテストを推進してきました。
 これの信頼性なんですけれども、テスト理論から見ると、一次元性が十分に担保されている。また、信頼性もテスト理論的には十分に確保されているという中でなんですが、これが大変興味深いことに、学力テスト、学テ、大阪学テとか埼玉県学調がここに例で載っていますけれども、ただ読めるかどうかを聞いているだけで、別に計算しなさいとか何々について知っていますかというようなことは全然聞いていないんですが、普通の学力と全般的に約0.5、0.6ぐらいの高い相関係数が出ていますということが特徴的です。
 ということで、こういうような文ですね。「幕府は、1639年、ポルトガル人を追放し、大名には沿岸の警備を命じた」というのと、「1639年、ポルトガル人は追放され、幕府は大名から沿岸の警備を命じられた」というのは同じか違うかというのを聞くだけの問題なんですけれども、当然違うんですが、中学生は約半数、だからコイン並みぐらい間違える。これとこれが同じだということが分からないで教科書を読んでいる状態。
 あるいは、この「原点Oと点(1,1)を通る円がx軸と接している」。何も解きなさいと言っていないんですけれども、条件をチェックするというような能力を見たときに、この左上だけが正解なんですが、中学生は正答率が10%~22から全然上がっていかないという感じです。上がっていかないのに、高校1年生で三角関数をやるみたいな感じになっていますので、とてもじゃないけれどもファクトチェックができる状態にあるようには思えないんです。
 まとめですけれども、論理推論を今強化したりもしていますが、o1とか出ていますが、ハルシネーションは本質的に解決できません。だとすると、生成AIの出力を教育現場で正しく活用するには、極めて高度なファクトチェック力が求められます。現状の児童・生徒のシン読解力状態では、生成AIのファクトチェックは極めて困難だと考えられます。
 教員が子供たちが出したAI出力をファクトチェックするとなると、今の多忙に一層拍車がかかる。私でも1つの答えをチェックするのに1日半かかっていますので、事実上不可能だと思います。ですので、生成AIの教育利用を論じる前に、児童・生徒のシン読解力育成のほうが先決だろうと思います。教員が業務で利用する場合にも、利用シーンはかなり限定して、自らファクトチェックができる範囲に限定するということを推奨します。
 これでもうお時間がちょうど来たんですけれども、一応、念のため、追加でその他の問題としてぱぱっと触れます。
 今、生成AIは難関大学の合格可能性圏内にあると想定されます。生成AIを用いた入試不正は、ネット遮断以外の方法では阻止が難しいです。これまで、ネットを通じた入試不正は第三者に回答依頼することで発覚する例が多かったんですけれども、例えば、グーグルグラスを使って手元のスマホに送って、それをChatGPTに解かせるというようなことをすると、発覚しづらくなるというふうに、これが大変懸念されます。
 もう一つは、これは皆さんあんまり気付いていないと思うんですけれども、生成AIのビジネスモデルってまだ見えていません。現状の生成AIの出力を必要としているのは、多分、人口の0.1%未満です。広告モデルとの相性が大変悪いので、無償であり続けることは難しいだろうと考えます。
 生成AIを教育で活用するということを前提としたときに、どのような課金モデルになるのか全く予想がつきません。今現在20ドルぐらい、月・人ですけれども、今後上昇すると考えられるので、各自治体の教育予算から支払うことに妥当性があるのかということは十分考えて気を付けていかないといけない。ずっと無償なわけじゃないということだと思います。
 以上です。ということで、まとめのところに戻して、これで終わりです。
【石川座長】  どうもありがとうございました。
 新井先生に関する意見交換・議論については、森田委員の話題提供の後にまとめてお受けできればと思います。
【新井氏】    では、共有停止してよろしいですか。
【石川座長】  一度停止していただければと思います。
 それでは、引き続きまして、森田委員、御発表をお願いいたします。
【森田委員】  それでは、よろしくお願いします。では、共有いたします。画面、大丈夫でしょうか。
【石川座長】  はい。見えています。
【森田委員】  じゃあ、よろしくお願いいたします。つくばでの生成AIを活用した実践から見えてきたもの、それらを今日は説明させていただきたいと思います。
 つくば市は、昭和52年、筑波大学との共同研究で日本で初めてコンピューターを教育に活用しまして、40年以上ICTを活用、そして、一人一人の個に応じた学び、共に学び合う協働的な学びの実現というものを目指してこれまでずっと研究を重ねてまいりました。
 これはつくばの教育大綱ですけれども、この最上位目標とその中でつくばが目指す教育の考え方の転換というものをここに示しています。ICTを活用するということも、これらを実現するための1つの手だてであるという考え方です。そして、特に今は、探究的な学びの実現、自律的な学習者の育成ということを特に意識して進めているところです。
 そんな中、生成AIが突然発達して注目されるようになったわけです。つくば市では、児童生徒が生成AIに触れるままにほっておくと、生成AIがどういうものか、それをどのように使うのか分からず、自分勝手に使って間違った使い方をしてしまったりする可能性があるのではないかと。先生方によく言っているのは、自動車の運転を全然練習もしないで、18歳になったから、さあ運転しなさいと言われるようだったらどうするのと。やっぱり練習が必要でしょう。これも同じじゃないのというそんな話もしているんですけれども。
 そういうふうに間違っていかないためにも、児童・生徒の情報モラルを含めて、情報活用能力を育む教育活動を一層充実させながら、全ての児童・生徒と教員が生成AIを理解して使いこなすために必要な資質・能力を身につけていく必要がある。併せて、保護者も不安があるでしょうから、そういうのを消してあげる必要があるのではないかと考えて、ここに示したような7つの取組というのを行いました。
 保護者や児童・生徒向け、先生向けのリーフレットも作りましたし、そういう子供や親子向けの研修とか、先生向けの研修、実践事例集、それから、実践から見てきたAI時代の学びについての協議などを行ったわけです。今日は、時間の都合で1番と3番と7番について詳しく説明をさせていただきたいと思います。
 まず、市内50校全ての学校で、教員、児童・生徒がまず生成AIが何者かということを知り、よりよい活用ができるようにするために、学校での学びのステップというものを考えました。その一部がこの表になります。
 市の教育委員会としては、やはり学校差や教員による差を生まないための手立てが必要だと考えました。
これらの指導の内容については、教育委員会から一方的に示すのではなく、各校のICT教育推進委員の先生方と連携し、その先生方の研修の中で先生方自身が指導内容や授業について議論し、モデル指導案を作成しました。そして、その指導案をモデル校が実践し、その実践から得た成果と課題を基に、更にブラッシュアップさせて市内のクラウドで共有をし、横展開を目指しました。
 つくば市では、総合教育研究所のリーダーシップの下に、ICT推進委員がそのサイクルを回す役割を担い、常に時代やニーズに応じた質の高い教育を市内全校で展開できるようにしています。このように教育委員会と学校が連携して進めるということは大変重要なことではないかというふうに考えています。
 また、そのような本市の目指す方向性、それから先生方の実践事例などを掲載した「生成AI活用の手引き」という冊子を作成し、クラウド上でも共有しています。先生方からは非常に分かりやすくてありがたいというような声が多く聞かれています。
 では、次に、実際に学校でどのように活用しているのかということ。本日は時間の都合で2点のみの紹介となりますけれども、1点目は、中学校2年生の国語の学習です。グループごとに設定した問題について、自分たちで出せない視点や自分たちの意見に対するアドバイスをAIにもらって、よりよく解決するという授業を行いました。
 ここで単に生成AIを活用すれば学びが深まるというわけではない。教師は生成AIからの意見・アドバイスと向き合うことができる時間を確保することがまず重要だと思います。解決を急いでしまうと、生徒は生成AIの意見をそのまま取り入れようとしてしまいがちです。教師は仲間とAIからの意見やアドバイス等を吟味する時間をしっかりと確保し、生徒の様子を見ながら、「よい視点で議論しているね」とか、「本当かな」、「なぜそう思ったの」などと問いかけることで、批判的に考えたり更に調べて根拠を明確にしたりしようとする活動が促されて、仲間同士で対話をしながら、よりよく解決しようとする姿が多く見られるようになりました。
 2つ目ですが、これは中学校2年生の英語で話すこと・聞くことの学習において、生成AIとの即興での英語によるやり取りをして、学習意欲や英会話力の向上を図るという実践です。ここで教師の役割として必要なことは、会話の速さや難易度など、学びの手順や方法を複数用意し、個別最適化に配慮すること。そして、振り返りにおいて、よりよい学びが学び方が身につき、学びが深まるように支援することです。
 これはもう少し具体的に申しますと、まず、生成AIを活用することで、生徒は自分で話すテーマや難易度、スピードを決めることができます。しかし、それだけで個別最適な学びにつながるかというとそうではありません。教師は、誰がどこでつまずくか、日頃の生徒の見取りによって予想し、「Magical Phrases」集を作成し、生徒に共有しています。
 この「Magical Phrases」とは、「もう一度言ってください」とか、「もう少し簡単な英語で話してください」とか、「どういう意味ですか」というような、対話を止めないため、また、発展させるためのヒントとなるものです。そのヒントを自分なりに活用することで、自分で調整しながら、よりよい会話を求めて粘り強く英会話を続けることができるようになります。
 併せて、教師は生徒の学習状況を見取りながら、つまずきへの支援、学び方へのアドバイス等を直接もします。また、この「Magical Phrases」集というのは、授業の生徒の様子から常にアップデートもしていきます。このように目の前にいる生徒に必要な支援や学びへの準備、これは教師にしかできない重要な役割だというふうに考えます。
 これは実際にあった英会話のやり取りの一例ですけれども、このような学習というのは、AIがなければ友達同士で決まり切ったフレーズでのやり取りになることが多いし、教師と即興的な会話を全員がするというのは不可能です。AIを活用することで、全ての生徒が即興的なやり方ができ、実社会で役立つ英会話力につながる学びになっています。
 そして、学習の最後には必ず振り返りを行います。振り返りでは、自分の学んだ手順や方法・内容等について自己評価し、新たな目標を主体的に考えます。教師には生徒に学びを自己認知させたり学びを価値付けてあげたりする役割があり、その積み重ねが生徒の学ぶ力はもちろん、一人一人の自己肯定感を高めたり非認知能力を高めたりできると考えています。
 さて、今回は時間の関係で2つの実践の紹介のみでしたけれども、学習者としての活用は、個別最適な学びや協働的な学びで深い学びを実現するための1つのツールとなる可能性を感じています。また、校務においても、校務支援や授業支援として活用することで資料作成時間を大幅に削減したり、新たなアイデアを取り入れて再考したりすることができる可能性も見えてきました。
 一方で、まだまだ開発途中段階の生成AIは、出力の正確性やバイアス、著作権の問題、個人情報や機密情報の流出問題等、様々な懸念点もあります。だからこそ、どのように活用すればよいかガイドラインで示していく必要があると思っています。
 つくば市では、さきに示したように、今回はスタートでしたので、全ての5年生から9年生までの児童・生徒が同じような流れで生成AIの学びを進めましたけれども、今後は、成長段階に応じて必要な学びを整理していく必要があると考えています。
 また、生成AIを活用する際に、学校は保護者の同意を得て活用していると思いますが、同意されない保護者がいた場合の児童・生徒の学びの保障についてもガイドラインで示していく必要があるのではないかと考えます。つくば市では、最初不安を抱いていた保護者もいましたけれども、丁寧な説明とかリーフレットとかそういうもので徐々にその不安が薄らいで、同意をいただいたというような状況でございました。
 以上を踏まえて、生成AIを活用する際の役割として、スライドに示す2点が特に重要だと考えています。
 1つは、深い学びにつなげるために、ICTや生成AIを活用するときにどんな問いを持たせて、どの場面でどのように活用させるか、どの活動でどのような力を育成するか、授業者がしっかりと授業デザインやカリキュラムマネジメントをすることが大切です。
 2つ目は、児童・生徒が自ら問いを持ち、自律的に学ぶ力を身につけられるよう、授業者は発達段階に合わせた系統的なAIリテラシー教育を進めるとともに、ICT・生成AIを児童・生徒が活用している場面でのどのような問いかけや支援を行うかが重要となっていると思います。
 実際の、ここには書かれていませんが、子供たちも使う経験を通して、正解を求めるようなそういう使い方はあまり向いていないんじゃないか、新しいものを創造するためにアイデアをもらったりヒントをもらったりするときに有効なんじゃないかということを言っています。子供たちが経験するということがすごく大事なんじゃないかなというふうに思いました。
 そういうことも含めて、更に教員に求められることをまとめますと、生成AIを上手に活用するためには、問いを明確にしてしっかり考えさせながら対応していく力が必要となります。ですので、ふだんから探究的な学びの機会を増やし、その中で疑問や気付きを大切にし、情報を上手に活用する批判的思考力、コミュニケーション力、学びを振り返り次の学びにつなげていく力などを身につけ、自律した学習者として育てることを目指し、教師がどう働きかけ伴走していくのか。これをみんなで考えていくことが重要なのではないかというふうに考えているところです。
 発表は以上でございます。よろしくお願いいたします。ありがとうございました。
【石川座長】  森田委員、ありがとうございます。
 ここまで、新井先生からは、懸念点も含めて、生成AIの教育に及ぼす影響について御発表いただきました。森田委員からも、現職の教育長として、現場の視点で留意していくべき話題提供をいただいております。
 それでは、ここで、これまでの内容に関する質疑応答、意見交換に入りたいと思います。御発言したい方は挙手をお願いいたします。利根川さん、どうぞ。
【利根川委員】  利根川です。新井先生、森田先生、ありがとうございました。
 森田先生のほう、実はつくばは私も授業を見させていただいたこともあり、そこで非常によい実践をなさっていたのが印象的でした。その授業は6年生か7年生ぐらいだったと思うんですけれども、戦後の社会科で戦前と戦後を比較しようみたいなところで、グループごとにトピックを決めて調べていくんですが、教科書には書いていないが知らない概念をGPTに聞いた後、聞いた後そのまままとめて発表してしまうと、新井先生も御懸念のハルシネーションとなってしまうんですけれども、つくばの子はさすがで、もう一度別のタブで出てきた概念を調べて、正しいであろうソースの情報を基に学習を積み上げていくみたいなことをやっていました。
 40年来とおっしゃっていましたけれども、つくば市においては、市を挙げて、先生も子供も情報活用能力を積み上げてきた。それがいい授業にできているのかなというふうに私も授業を見させていただき感動したというところを、改めて、森田教育長へのお礼も含めて報告させていきます。
 また、森田教育長の御発表で、私もAIで先生を置き換えるというよりも、先生も学びの在り方をアップデートしていくという観点も非常によいかなと感じておりまして、AIで先生が置き換えられるようになるというのではなくて、子供たちの学びをより豊かにするというところを先生とAIが二人三脚してやっていこうというコンセプトもすばらしいんじゃないかなというふうに感じました。
 新井先生からのファクトチェックへの御懸念というところは、ハルシネーション、ファクトチェックの話はまさに避けて通れないトピックだなと考えておりますが、私個人としては、子供を取り巻く全般の情報技術として、ファクトチェック、ファクトとどう向き合うのかという観点と、AIには何が得意で、そのほかのツールでは何が得意なのというところ、子供を取り巻く全般で考えていくという観点が加わると更によいんじゃないかなというふうに感じました。
 一旦、以上、私のコメントとさせていただきます。
【石川座長】  ありがとうございます。この後、藤村委員、佐藤委員から御意見を伺った後、新井先生、森田委員からの返答をいただきたいと思います。
 では、藤村委員、どうぞ。
【藤村委員】  ありがとうございます。
 まず、新井先生からは、基本的にAIについて仕組みですとか問題点について把握しておくことがとても大事なんだということを非常に明快に示していただいたこと、御礼申し上げます。
 それと同時に、森田教育長、森田委員からのお話で、それを踏まえた上でどう使うことができるのかという点について、教育の可能性というものについて御示唆いただいたように思います。事前指導として、仕組みと可能性もあるけれども問題点もあるんだ、そして、それを教育でどのように活用するのかといったことについて、多くは利根川さんのほうから今お話しいただきましたので重ねては言いませんけれども、基本的に踏まえることを踏まえて事前指導をしていて、子供が体験を通して、こういうときは使えるし、使ってはいけないとか、そういったことが判断できるように育てることころそが大事なのかなと、それが新井先生が目指していらっしゃるシン読解力の育成にも恐らくつながるんだろうなと思いながら聞いておりました。
 それともう一点は、実は生成AIも多様な種類がありますので、ChatGPT-4をエンジンに使っていても、例えば、Copilotは出典を明示するんです。なので、そのリンクをたどってファクトチェックできるとか、多様な生成AIが出現してきていますから、それごとに留意点も整理する必要がある段階に来ているのかなとそのようなことも感じましたので、申し上げておきたいと思います。
 以上です。
【石川座長】  どうもありがとうございます。
 では、引き続きまして、佐藤委員、お願いいたします。
【佐藤委員】  新井先生、森田教育長、ありがとうございました。信州大の佐藤でございます。どうぞよろしくお願いいたします。
 まず、新井先生のお話についてでございます。1つ目ですけれども、まず、生成AIの情報を含めて、複数の情報ソースを意識させていく必要があるということを感じております。そもそも生成AIが生み出したハルシネーションなのか、誰かが恣意的につくったうそとかフェイクニュースなのか、そういったことすら判断が難しい状況にあると思います。それが1つ目です。
 2つ目が、社会の問題というのはもちろん複雑化していて、答えが画一的でものではない。だからこそ探究的な学びや学習者主体の問題解決的な学習が求められているということだと思っております。
 そういったことを踏まえていきますと、正しさを目指していないことを前提としていたり、強化学習の話であったり、プロンプトの話、もっともらしさの最適化の話、こういったものは情報技術の理解とその限界の理解だというふうに考えております。それから、ハルシネーションが起きることに対しての高度な読解の技能であったり読解力が必要だというふうに捉えているところでございます。
 そういったことを踏まえますと、新井先生の御懸念というのは、合っているというところは、答え合わせをするタイプの画一的なタイプの学習の場合は合っているなというふうな印象を受けたんですが、探究的に取り組む場合は、誤りを前提とした上で、ファクトチェックの方法であったりそういったものを習得しながら、子供の探究の活動を促進させていく必要があるというふうに捉えております。
 技術の発展とともに生きていかなければいけないということを前提に捉えた場合、いずれにしても学び方を学ぶ必要があることと、その特性を知っていることというのは大事なことかなというふうに捉えております。
 それらを総合しますと、リーディングスキルテストを広くメディアに対する読解力という解釈で受け止めた場合、情報活用能力とひも付けつつ、広義のメディアを読解する力というのは必要なのかというふうに考えました。
 あるいは、また、この読解力ということに関連すると思うんですけれども、これは森田教育長がおっしゃったような、本当かなとか何でそう思ったのかなという見方・考え方の話にもつながっていくと僕は考えております。こういった見方・考え方が働かないと、違和感や間違い誤りに対して、そういったものにピンと来ないわけですね。その辺りが非常に大事になってくる感覚なのかなというふうに捉えております。
 それから、森田教育長のお話のつくば市の取組に関しては、まず、学校関係者にそのことを知っていただくという意味では、僕は非常に大事なことを取り組まれていると思っています。特に保護者の方々への懸念や不安ですね。こういったものをいかに払拭して丁寧に御説明されていくかということだと思っております。これは生成AIに関わったことじゃなくて、新しい教育であったり、もちろんGIGAスクール構想とかもそうだったと思うんですけれども、そういったことではいつでも大事なことだというふうに僕は捉えております。
 その上で、個別最適な学びや協働的な学びの話が出てきましたけれども、そこで生成AIがいかにパートナーとして担っていけるのかというような、そういった議論をされていたというふうに考えております。
 そのときの教師の役割というところでいきますと、安易な授業にならないようにというような考え方の場合は、今までの教師とあまり変わらないと思っておりまして、大事な教師の姿勢が問われているときなのかなということを改めて感じた次第でございました。
 以上になります。よろしくお願いいたします。
【石川座長】  どうもありがとうございます。
 では、まずは、ここまでの御意見に関しまして、新井先生、森田委員から見解をお聞きしたいと思います。まずは、新井先生、いかがでしょうか。
【新井氏】    どなたも大変重要な御質問あるいはコメントで、ありがとうございます。
 たしか藤村先生がおっしゃった、Copilotならばというようなことをおっしゃいましたけれども、多分ChatGPTのオムニになりますと、まさに出典を書くわけです。その出典が「Japan Forward」が圧倒的に多いということが興味深かったということですので。
 どれが出典を付けるか付けないかとか、例えば英語を優先にしているかとか、特定のものに偏っているかというのは、ほとんど日々変わるので、今の段階で整理はできないだろう。例えば、Claudeだったらいいとか、Copilotだったら安心とか、こういうのに向いているとか、そういうような整理を今行うのは大変難しいだろうという印象を持っております。
 また、生成AIが書いたことに関して、例えば歴史のこととか戦前・戦後の違いとかということに関して、取りあえず出力させて、それをファクトチェックをかけるみたいな、そのファクトチェックをするということ自体が、今現状の児童・生徒及び、これを言うともしかしたら問題になるかもしれないですけれども、義務教育の先生方の指導力では、多分ファクトチェックをすること自体が極めて難しいというのが、リーディングスキルテストを小学校5年生以上、教員まで含めて50万人受けていただいての私の結論でございます。
 ですので、これから生成AIのようなものを活用しなければいけないのだから、小学校段階の読解力が不十分な中でも、ファクトチェックをすること前提でこういうふうにプログラムを組むということ、授業を組むということが、子供にとっても教員にとっても過度な負担になるのではないか、あるいは、ファクトチェック漏れが起こって、誤った認識が定着してしまうということの危険性のほうが――一般的に、全体に見たらですよ。もちろん成功されるところ、あるいは、成功する学校もあると思いますけれども、全体で見たときには、そういう危険性のほうが、多分、今現状ですると高いというふうに統計的には言わざるを得ないということが私が申し上げたことです。
 ですので、きちんとした答えを出すものに対しては使ってはいけないけれども、探究的な場合はオーケーというふうに佐藤先生がおっしゃったことについては、私はそうではないだろうというふうに思っております。探究的な場合でも、非常に説得的なことを書いてきますので、その説得的に書かれた内容を、子供たちが引っ張られずにファクトチェックベースでしっかりやるというようなことというのを最初から求められる状況で前提が整っているかというと、その前提が整っていないというのが50万人のリーディングスキルテストの結果から申し上げられることだと思います。
【石川座長】  ありがとうございます。
【藤村委員】  今の点で誤りが1点あるので、そこだけただしてよろしいですか。
【石川座長】  はい。
【藤村委員】  新井先生のおっしゃることはごもっともだと思うんですけれども、1点だけ、CopilotとChatGPT-4は、エンジンは同じでも情報の生成の仕方が全く異なりまして、Copilotは信憑性順に参照している。公的機関の情報ですとかそういったものから生成していて、先ほど新井先生がおっしゃったような英語が先にとかそういう生成の仕方じゃないので、そこはちょっと説明しておきたいというふうに思います。
 それから、ファクトチェックが負担になるということでしたけれども、佐藤委員もさっきおっしゃっていたように、ファクトチェックじゃなく、吟味と言ったほうがいいのかもしれませんが、どんな情報も吟味して、これでいいのかなと見ていくことが、子供たちがこれからの社会生きていく上でとても大事で、ファクトチェックをやるから負担増ではなくて、そもそも生きる力として必要だということなのかなと思ったので、その部分だけちょっと申し上げておきたいと思います。
【新井氏】    藤村先生の御意見はそのとおりなんですけれども、大変申し訳ないんですが、そういうどの順番にするかということ自体も業者側に委ねられていますので、それは約束事ではないので、日々変わっていくので、そのように整理を今なさるのは私は不適切ではないかと思って申し上げました。
【藤村委員】  変化はどんどんするものですからね。それは順次更新していくのはごもっともだと思います。
【新井氏】    それは私たちに知らされることなく変えられますので。仕様を。
【藤村委員】  実はそれもきちんと、それによって全部違う。公開しているものと公開していないものがあります。そこもぜひ整理してみてください。お願いいたします。
【新井氏】    その趣旨も変わるということが、契約上それはそうなっているので。なので、今整理すればいいということではないだろうと私は思っています。
 ファクトチェックじゃなくて吟味なんだというふうにおっしゃるんですけれども、吟味も含めて、先ほどお見せしたトルキスタンの歴史的変遷みたいなのがありましたが、1行1行、ほとんど1分節ずつ全部間違いが入っているんですけれども。微妙に。それというのが吟味できるかというと、多分、私たちも吟味できないぐらいなので、吟味というのが、ファクトチェックじゃないにしても吟味すること自体が極めて難しい。それはグーグルのピチャイができないぐらいなので、大変難しいことだというふうにお思いになられたほうがいいと思います。
 AIと生きることがこれからは当然なのだからというふうなおっしゃりようでしたけれども、最後でもちょっとお話ししましたが、まだマネタイズがどうなるかが分かっていないので、学校に本当に使うみたいな前提になったときに、それが課金モデルだった場合、どうやってお金を支払うのかということも大変難しい問題だなというふうに思いますので、そこも留意なさったほうがいいんじゃないかなとは思っております。
【石川座長】  ありがとうございます。
 森田委員からまずは御意見を伺いたいと思います。森田委員、お願いいたします。
【森田委員】  今、新井先生のお話を伺って、いろいろまだ考えなきゃいけない部分あるんだなというふうに感じたところですけれども。取りあえず、私たちとしては、この使う経験の中でしっかり将来を見通した力をつけていくという方向で考えないといけないのではないかな。そのときにいろいろ注意すべきことはあるんだろうなというのをまだこれから整理していかなくてはいけないというふうに思いました。
 それにしても、教育委員会としては、そういう不安を持つことに対して、市としてはこんな考え方でやっていきます、こういう使い方をしますということは、ある程度的を絞って説明していかなければいけないのかなというふうに思いました。保護者の方もそういう使い方であればまずはいいでしょうというような理解もいただきましたので、実際は、今、ほぼ全員が使っているというところでございます。
 いずれにしても、先ほども言いましたけれども、やはり一番大事なことは先生方の授業観である、それと、生成AIのメリットとデメリットをしっかり捉えておくということではないかというふうに思います。特に授業観の育成ということを私は非常に意識していますので、今、授業力を磨くということを指導主事も含めて、生成AIを抜きにしても、今、一生懸命取り組んでいる。その中で、学ぶ力、そしてツールをしっかり活用する力というのを付随して伸ばしていけばいいんじゃないかなというふうに考えています。とにかく教師がしっかりしないといけないのではないかと考えているところです。
 以上です。
【石川座長】  ありがとうございます。この後、鈴木委員、吉田委員、細田委員から御意見をいただきたいと思います。
 まずは、鈴木委員、お願いいたします。
【鈴木委員】  新井先生、お話ありがとうございました。私は新井先生の教育観や学力観がうまく飲み込めていなくて理解できないところがあるのだと思うので質問させていただきたいのですが。さっき生成AIを使った入試不正の問題を指摘されていましたが、そもそも生成AIを使えば解けてしまう入試の方に問題があるというふうには考えられないのでしょうか。
【新井氏】    思いません。思いませんと言う理由は何かというと、私たちもロボットは東大に入れるかということをやって、東大に入れるようなAIをつくっていたので、それというのは東大の入試が意味がないということじゃないですかと時々御質問を受けるんですけれども、今現在行われている入試というのは非常に、まず公平だということがありますし、それと、単に記憶した内容をただ出力するということではなくて、先ほどのトルキスタンの問題なんかもそうですけれども、教科書のようなファクトが書かれている文章をしっかり読み解いて、その後ろに書かれていた意図とか歴史の流れについて問うているような内容ですので、そういう問題自体がいけないものだとは思いません。
 ただ、入試になりますと、精度が、例えば95%ないと合格できないというようなことではなくて、半分ぐらい解ければとか、英語が8割以上解けていれば、あとは半分くらい解ければ入学できるという、入学者の中の分散というものがありますので、そういうことを考えますと、精度が悪いAIであってもそこそこ入れてしまうという実態が現実問題としてはあるということだと思います。
 別に、生成AIが解けるからアメリカの司法試験を変えようとか、アメリカの医師国家試験を変えようとかという話にはなっていないと思いますので、別にAIが例えば7割ぐらいできるからといって試験問題内容を変えなきゃいけないということではないと私は思っております。
【石川座長】  ありがとうございます。ちょっと時間がないので、コンパクトにお願いいたします。
 吉田委員、よろしくお願いします。
【吉田委員】  ありがとうございます。
 新井先生にお伺いしたいんですが、2点ございまして、知識を問うことに関して利用することに対しては慎重になるべきということは私も同意でございます。ただ、生成AIを用いてアイデア出しをしてもらうというところには可能性が十二分にあるのではないかなと、参考程度に聞くというのは意味があるのではないかなと思っておりまして。
 例えば、生成AIに俳句を生成させて、それに対して児童が批評して自分オリジナルの俳句を作るという事例も出ていたりですとか、場合によっては、学園祭の企画案をちょっと相談してみるということもあったり、小論文へのフィードバックですとか、ポイントとしては、知識を問うことではなくてアイデア出し、相談相手として使うというところには一定の価値はあるのかと思っておりますが、その点に関してはいかがでしょうかというのが1点目と。
 2点目は、全般的にお話しされておりましたが、生成AI自体、分野によって性能が全然違うなというところがございまして、例えば、プログラミングであれば、かなり精度の高いコードを生成してくれるということに加えて、プログラミングで言うと、そのコードを実行してそれがエラーになるのかだったり、そもそも目的とした出力になっているのかというチェックが迅速に行える。ある種のファクトチェックをすごくスピーディーに行えるという特性があるので、例えば、プログラミングにとっては有用ではないかと思っていたりするんですが。
 なので、分野によっても異なるだろうなというふうに思っておりまして、それについてコメントいただけるとありがたいなというふうに思っております。
【石川座長】  吉田委員、ありがとうございます。
 では、引き続き、細田委員、お願いします。
【細田委員】  よろしくお願いいたします。昨年度までさいたま市の教育長をしておりました細田と申します。
 まず第一に、私自身が基本的にテクノロジーの進化に対して大変期待をしているタイプの人間であり、昨年度でしたかしら、野村総研が調査をして、日本人の四十数%でしたっけ、AIに大変期待を持っていると。否定派の倍以上だったというところで、私もその四十数%側なんだなというふうに思っておりますので。そもそも、決して遠い将来ではないところでAIと生きていくということが当然避けて通れない事実になってくるなというふうに思っておるわけでございます。
 そうなりますと、前回の御発表で鈴木委員が、御自身の学校での実践の中で、持ち上がりをしてきた子供たちと6年生になって初めて担任した子供たちが対して、これまでと同じようにAIを活用した授業をしてきたときに、6年生になって初めて担任をした子供たちは、AIの提案とかそういったものに対して疑うことが少なくて、長い間かけて発達段階に合わせてAIの仕組みやAIを使った授業実践をしてきた、そういう体験のある子供たちのほうがAIに対して「はて」と思ったりする、そして、それを活用しながら授業ができているというような御発表されたのが大変印象的でありまして。
 そうなりますと、今日のつくばの教育長さん、森田教育長さんの御発表のように、これからますます教師の授業のデザイン力が大切になってくるので、ここに対する研修、そういう力をつけていく仕組みづくりが大変重要だなということを実感しておりますし、そして、新井先生がおっしゃったように、今後、課金のことも含めてこれをどうしていくかということを考えていくことも大切なので、地域差や学校間格差が出にくい課金のことも含めた仕組みづくりといいますか、地域差や学校間格差が出にくい仕組みをつくっていき、子供たちが豊かにAIと生きていきながら、学び合いながら次世代を担っていくという、そういう仕組みをつくっていくことが、我々この協議会の中でもそういった議論が大切なんだななんて今日の御発表も含めて感じたところでございます。
 感想でございます。失礼いたします。
【石川座長】  ありがとうございます。
 新井先生、コンパクトに何か御意見があればお話しいただければと思います。
【新井氏】    本日は懸念点を挙げるようにということだったのでこういう発表になりましたけれども、私自身はほとんど日々、AIは3種類使って仕事はしています。
 考え出しにはよいということなんですけれども、LLMなので、例えば、英語で論文を書くときの手助けになるとか、あるいは、プログラミングをするときはGitHub、Copilot使うとかということは常にしていることです。
 なんですけれども、自分が使えるのは、英語で論文を書くのは本当はできるんだけれども、それで、見たときに吟味はできるんだけれども、時間が足りないという人だから使っているという認識でいます。なので、私はその準備が整っていない子供にまず優先的にしなければいけないことがあるんじゃないですかというふうに申し上げたにすぎません。
 細田先生のおっしゃることに関しても、私自身がそうやって日々使っているので、もしも私がある意味ロールモデルになるということだとすると、私はもう60過ぎているんですけれども、それでも別にやり使いこなしているので、いつからでも使いこなせますということもあると思うんですが。
 そういうこと考えると、自分にとってAIを使いこなせる資質の基盤となっているのはむしろ、まさに読解力というか、シン読解力がどの分野に対してもあるので使えるということであって、あるいは、プログラミングの基礎が分かっているし、見たら分かるので、なので使えるというだけのことで、まだない段階で使うことよりはそっちのほうが、別に後だから使えなくなるということはないタイプのものなので、別に困らないなという感じはいたしますけれども。感想です。
【石川座長】  ありがとうございます。
 森田委員、何かございますでしょうか。よろしいですか。
 それでは、今回の御発表に関する意見交換については、ここまでとさせていただきたいと思います。新井先生、お忙しい中、貴重なお話を聞かせていただきまして、ありがとうございます。
【新井氏】    とんでもございません。
【石川座長】  カメラをオフにして、御退席いただいて結構です。どうもありがとうございます。
 では、続きまして、前回私から事務局のほうにお願いしておりました、本会議におけるこれまでの御意見を一度まとめてみようということで、まとめたものを事務局で作成いただきましたので、まずは、事務局からそれの御説明をいただければと思います。よろしくお願いいたします。
【寺島学校情報基盤・教材課長】  座長、ありがとうございます。
 今座長からお話がありましたように、これまでの第3回までの先生方の御発表あるいは御意見をまとめた資料を、資料3として御用意をいたしました。本日の新井先生あるいは森田教育長の発表は含まれていないですけれども、これまでの3回目までの意見のまとめということで御覧をいただければというふうに思っております。
 それで、左肩のほうに通しで行番号が入っておりますので、私が場所を指し示すときにはこの番号で示したいと思いますので、そういったことで聞いていただければというふうに思っております。
 また、一番最初のパラグラフのところに書きましたように、今回の意見、少し固まりを整理してまとめましたけれども、この固まり自体は、第1回のこの検討会議で少し論点案のようなものを出させていただきましたが、それを意識しながらある程度固まりにしたというようなことでまとめた資料でございます。
 それでは、資料3のところで、主な御意見を少し振り返っておきたいというふうに思いますけれども。
 1つ目の固まりは、生成AIに関わるサービス技術の進展ということで、これは第2回で事業者からも発表がありましたけれども、そういったところも含めてまとめたところでありますが、まず、14行目、1つ目のポツでありますけれども、現在の生成は人間の大学院生レベルあるいは司法試験、医師国家試験に合格するレベルに到達しているのではないか。つい最近のモデルで言うと、1,000万トークンを入力して瞬時に処理可能な状態、本物と見分けがつかない分単位での動画生成、数秒の声のサンプルで自由な発声を生成できる状況、この辺りまで技術は来ているということでございます。
 それから、少し飛ばしまして23行目、ハルシネーションを防ぐ方法は見つかっておらず、言語モデルの仕組み上不可能ではないか、論理推論や計算に弱い、複雑な運動ができないことなどが現時点のあるいは一般的な意味でのAIの弱点として考えられるのではないか。
 その次の26行目でありますけれども、アンケートフォームや文書作成ソフトなど慣れ親しんだソフトをあるいは児童・生徒の学習環境にも統合されていくことが予想されるのではないか。
 28行目でありますけれども、開発者・提供者側においても、著作権侵害等のリスクを低減するような不適切なプロンプトの入力を防ぐ仕組み、あるいは、不適切な言葉・情報を制御して出力する仕組みなどが実装されている状況にある。
 次、31行目でありますけれども、生成AIの裏側で用途や機能を限定した形で児童・生徒が使うツールは多数存在している。
 少し飛んで35行目の後半でありますけれども、生成AIがすぐに答えを言わずに、子供たちが自ら答えたどり着けるまで徹底的に伴走させるといった設定も柔軟に可能になっているという御指摘。
 それから、2ページ目に参りまして、ここから少し固まりが変わりまして、学校現場に示すべき基本的な方向性に関する御意見をまとめたものでございます。
 まず、41行目からの固まりは、今の学校現場あるいは教職員の現状認識についての御意見でございます。42行目のポツの42行目の最後のところからでありますけれども、いわゆるパイロット校以外の学校については、AIについて全く議論されていない。教師も子供たちも触ったこともないような現状にあるのではないか。
 そして、46行目のところでありますけれども、46行目の真ん中辺りから、教員の理解を深める、あるいは活用の事例を深めるような研修が進んでいない。先生方も半信半疑という状態にあるのではないか。
 48行目、生成AIに興味がある学校では、児童・生徒が危ないことを入力しないか、あるいは、その対話の内容がモデルの学習に利用されるのではないかといった不安感があるのではないかといった御意見。
 そして、51行目のポツでありますけれども、51行目の後ろのほうから、名前やうわさしか知らずに怖がっていることが多いけれども、生成AIの可能性と限界を知る、デモを見る、操作するなどを通して、意外に利用できるということが気付く状況になっているのではないか。
 そして、54行目の後半でありますけれども、そもそも生成AIがフィルタリングでブロックされているので使用できない。管理職や同僚の理解を得るコストがとても大きい。教員間で温度差がある。教育委員会が禁止している。勤務状況として余裕がなく、生成AIの活用を検討する時間の確保が難しい。こういう状況にあるのではないかという御意見。
 そして、59行目の後半のところからですけれども、生成AIの利活用を考える上では、やっていいか悪いかという問題だけではなく、費用対効果として生成AIを導入する意義がどれくらいあるのかという点は議論すべき。何を削るのかという全体像を考えた上で、活用の方法を考えて考えないといけないのではないかという御意見。
 そして、63行目。小学校の段階からも、学校外で既に使ったことのある子供たちがいる状況にある。放っておくと学校外で触れることになるため、適切な教育機会が必要なのではないか。
 ここまで、現状認識のところについての御意見でございました。
 68行目以降は基本的な考え方の部分に入っていくと思いますけれども、69行目、AIは人間が使うツールである限り、少し70行目に飛びますけれども、AIを使いこなすためには人間自身の能力が必要であるという御意見。
 そして、73行目。必要なのは学ぶ力をつけることであり、自走できる学び手になり、情報の本質を見抜く力、そこから自分でしっかり判断ができる力を身につけるように子供を支援するべきではないかという御意見。
 そして、76行目。新しいテクノロジーは地域あるいは家庭の環境がよい子に大きなメリットをもたらす一方で、そうではない子になかなか機会が提供されずに、世代をまたいで格差が拡大する傾向にある。ベースとなる公教育で適切な機会が提供される必要があるのではないかという御意見。
 そして、79行目でありますけれども、技術の活用という点では、人間を不要にするという方向ではなくて、人間がよりよく生きる方向で考えるべきではないか。児童・生徒においては、安易に答えを見に行くということではなく、よりよい学習の相棒にする、先生においては、AIとともによりよい教育を提供するという方向で考えるべきではないかという御意見。
 そして、83行目ですけれども、問題解決の基礎となる学習活動、自律的な学習者、学習者主体の学び、個別最適な学びと協働的な学びといった学習観の転換を通して、生成AIを主体的に活用できる人材育成を目指す必要があるのではないか。
 86行目。生成AIは社会のインフラの一つになる可能性が高く、初等中等教育段階から理解する機会、触れてもらう機会を設けることが肝要ではないか。AIは万能ではない。人間中心にAIを使うことを知ることが重要ではないか。
 少し飛びますが、92行目、真ん中辺りからでありますけれども、学ぶことの納得感獲得に生成AIが寄与するという観点では、結果だけを見るような課題の出し方が不適切ではないかということが問われる時代に入っている。こういった認識に立って、その前段階にある子供たちの意欲、問題発見を掘り起こすことが重要ではないかといった御意見。
 それから、101行目からは情報活用能力との関係について少しまとめたものでありますけれども、104行目のところ、そもそも、情報活用能力の位置付け、あるいは情報活用能力を育成するための学習活動の必要性などについて、学校現場の理解を十分に得られているとは言い難い状況なのではないか。
 106行目。本来あるべき、情報リテラシー、情報教育の目的というのは、少し飛びますが、108行目の一番後ろからですけれども、情報の海から必要な情報の本質をつかむ直感、その直感を使い自分としてしっかりと結論を下すことができる人材を育てること、こういうことが情報リテラシー、情報教育の目的ではないかといった御意見。
 それから、少し飛びますけれども、次のページに参りまして、115行目。現在のガイドラインにおいては、情報モラルを含む情報活用能力が十分に育成されていない段階に応じて、自由に使わせることが適切ではないとされているけれども、十分育成とはどの程度で、具体的には何をいつから育成すればよいかが具体的ではないのではないか。
 そして、少し飛んで123行目。情報を批判的に理解できていない実態があることから、情報活用能力の育成について学習経験や学習歴が必要ではないか。
 それから、126行目。性質の異なるAI、あるいは、生成AIにとどまらず機械翻訳や検索エンジンを複数使うことが非常に重要ではないか。組み合わせることで弱点・利点が見え、それを補って使いこなすということが1つのリテラシー教育の観点になるのではないかという御意見。
 それから、130行目の後半でありますけれども、バイアスという部分は非常に不足をしているという御意見。
 そして、133行目。これからの子供たちは生成AIと検索エンジンを一体化して情報環境として捉える世代なので、情報教育全体の中で考えていくことが重要ではないかという御意見。
 137行目からは、それぞれ各主体、児童・生徒あるいは教師、教育委員会、そういった各主体でありますけれども、それぞれに対して示すべき具体的な留意事項についてまとめたパートでございます。
 139行目からは、それぞれの下に共通する留意事項を少しまとめたものでありますけれども、140行目、安全・安心、プライバシー、透明性など、事業者ガイドラインでも挙げられている原則は、教育現場でも考えるべきことが共通しているのではないかという御意見。
 142行目。国として標準化できるところはした上で、具体的な方法論を提示することが必要ではないか。
 143行目に行きまして、具体的には、学校における生成AIの利利用に向けた手順の明示、著作権侵害において具体的に注意するべき点の明示、具体的な活用方法に関するオーケーな例、NGな例、注意点と対応策などが考えられるのではないか。
 ページを飛びまして、5ページ目に参りまして、154行目でありますけれども、学校現場から教育に必要なAIが何なのかという現場の声をサービス側にフィードバックするということも重要な点ではないかという御意見。
 それから、158行目からは、児童・生徒が学習場面で利用する際の留意点に関する御意見でございます。
 159行目の後半からでありますが、生成AIのリスクを指摘し、留意点を指摘し、使うならどういう使い方があり得るのかということを現場の先生たちが理解でき、腹落ちできるものにする必要があるのではないか。
 162行目でありますけれども、生成AIを利活用する際のリスクとして、学びのエピステモロジーに対する長期的なリスクがあるのではないかという御意見。
 164行目に行きまして、安易なAIの導入によって、子供たちが記号接地をせず楽をして答えを求めるような状況を助長するリスクがあるのではないかという御意見。
 169行目、基本的に概念が身についていない、すなわち記号接地できていない子供たちが多い中で、本当に生成AIを使えば記号接地が進み、現在理解できていない概念が理解できるようになるのかまずは考えるべきではないかという御意見。
 173行目、「特に」というところですが、特に小学校で使うという観点では重要であって、AIの活用の年齢制限に関しては、法的な観点でどのような状況なのかも併せてまとめるとよいのではないかという御意見。
 そして、176行目。小学校の高学年からの積極的な活用が必要ではないか。
 177行目に行きまして、児童が直接触れる形においても、試行錯誤の回数という意味で、小学校高学年が適切ではないかという御意見。
 181行目。特に小学校においては、生成AIの仕組みを教えることは困難である。初等中等教育段階において、多くのAIに対する体験を通じて、生成AIに対する冷静な態度を養うことを狙うべきではないかという御意見。
 184行目。経験が浅い子供たちはAIが出してきた答えを素直に受け取ってしまいがちである。
 185行目の最後からでありますけれども、経験を積むことが重要ではないかという御意見。
 それから、187行目。情報活用能力の観点から見ると、生成AIを活用する前に達成しておきたい段階というものがあるのではないかという御意見。
 次のページに行きまして、192行目のところ、その段階の具体的な御意見でありますけれども、192行目の最後から、生成AIを活用する前に達成しておきたい段階は小学校低低学年からでも実践可能であり、小学校高学年あたりから徐々に生成AIの活用を見据えていくことが考えられるのではないか。
 198行目。学校現場においては先生方が生徒に対して提供する側になることもあり、モニタリングを意識して使うということが重要ではないか。
 それから、203行目。特別支援や外国籍の子供など、生成AIを活用しない手はないのではないかという御意見。
 207行目からは、先生方が利用する際の留意事項に関する御意見でございます。
 208行目ですけれども、先生が生成AIを使って使い方に慣れ、リスクを経験し、肌感覚で理解していくためには、校務での活用から始めるというのは理にかなっているのではないかという御意見。その際に先生が留意すべきなのは、①ハルシネーションの見極め、②情報流出の2点ではないかという御意見。
 それから、213行目からでありますけれども、リスクはなくならないという前提でどうするかという観点から考える必要があるのではないか。
 それから、215行目。管理職が先生による活用検討を禁止しない、活用を検討・実施できる環境づくりを促す、横展開するなどが必要ではないか。
 218行目。教材やノウハウの共有の仕組みという観点が重要になるのではないか。
 そして、219行目。先生方が自信を持って取り組めるということが大前提ではないか。
 少し飛んで221行目ですけれども、先生方が安心して使える環境や先生方が自信を持って取り組めるような観点が重要になるのではないかということ。
 それから、225行目は、教育委員会に対する御意見でありますけれども、226行目、教育委員会においては、教育情報セキュリティーポリシーの改訂も含め、検討や活用の体制づくりを促す、学校現場の働き方を促進するという観点からも、一律的な活用の禁止を禁止するといったことが必要ではないか。
 それから、229行目の後半からでありますけれども、教育委員会の活用という観点からは、ダッシュボードをこれまでの作り込んでいたものから、多様なデータを生成AIを活用してセキュリティーも担保して分析することで、よりよい学校改善につながるという可能性もあるのではないかという御意見。
 233行目。やる気のある現場の先生を教育委員会等がブロックすることのないようなメッセージが必要ではないかという御意見。
 それから、最後の固まり、239行目から、その他ということでありますけれども、241行目からは、現代の実践事例に関する御意見でございます。
 242行目、生成AIは活用する分野やモデル、利用時期、使い方、プロンプトで性能や影響が異なるため、教育への影響は複層的である。臨機応変な対応、情報収集が重要になるのではないかという御意見。
 そして、245行目の後半から。生成AIやそのほかの情報の利用に慣れ、リスクも分かっている学校以外での学校で生成AIがどのように使われているのかを検証する必要があるのではないか。
 248行目、現在のパイロット校の実践においては、ファクトチェックに関わる情報収集、整理、分析、評価・改善、多角的な情報の検討、試行錯誤による改善に関する実践が少ない。また、情報モラルに関わる情報社会に参画する態度の実践が少ないのではないかという御意見。
 そして、256行目後半からですけれども、今後も臨機応変な対応、実証事業などを通じた課題の収集、知見の蓄積が求められるのではないかという御意見。
 それから、最後、262行目からは、このガイドラインの在り方、あるいはガイドラインの書き方そのものの御意見でありますけれども、263行目、ガイドラインを通して、教育現場の先生方が大きな不安なく安心して動ける方針や環境を提供できるのかということがポイントではないか。
 そして、最後のページ、8ページ目に参りまして、267行目。大きな方向性をこのガイドラインの冒頭のところで出していく、目線合わせのようなものが必要なのではないか。
 そして、271行目。機動的に改訂していくというのは一体どういうことなのかということも考えるべきではないか。
 273行目の最後から。ガイドラインの定期的なアップデートの体制を構築することが重要ではないか。
 そして、277行目ですけれども、長過ぎると読まれないのではないかという御意見。
 そして、279行目ですけれども、具体例を挙げていったら切りがないので、何がいけないのか、あるいは何が望ましいかという原理原則を示すもの、そういうものが必要ではないか。
 282行目。グッドプラクティスを別冊で用意できるとよいのではないか。
 285行目。現場が悩んでいる点を整理して答えを出した上で、なお検討中であるという観点はペンディングであるということを明示してよいのではないか。
 287行目の後半ですけれども、ビジュアルでは、伝わりやすく行動に移しやすいように配慮されたガイドラインがよいのではないか。
 290行目。文章で本編があって、図で概要版が出されるというものが分かりやすいのではないか。
 294行目。現場の声をフィードバックする仕組みをつくり上げることが重要ではないかといった御意見がありました。
 まだ本日の御意見を含めて反映できていないところもあるかと思いますけれども、1回目から3回目までの御発表それから御意見について、主なものを紹介させていただきました。
 以上でございます。
【石川座長】  寺島課長、ありがとうございます。
 この資料は今までの議論をまとめたということで、全ての意見をフラットにまとめていただいたものになります。
 それで、今日の議論も含めまして、皆さんの議論では、この検討会の議論が階層性を持っている、非常に抽象的な部分から具体的な部分までいろいろあるので、それは維持していかなきゃいけないというあたりは、皆さん御同意いただいているように思います。
 それから、ほかにも、生成AIは使える場面、使えない場面があるということに関しては、皆さん御異議はないかと思います。異議があるとすれば、何が使える場面で何か使えない場面かということはいろいろと御意見があると思いますが、使える場面と使えない場面があることは御同意いただいた。
 それから、教師の側がかなり、スキルといいますか、授業の作り方、学習のスキルの伝え方といったものにうまい考え方が持っていないと駄目ではないかということに関しても、今日も何件か出ましたけれども、皆さん同じような御意見を持っているかというふうに思います。
 それから、ハルシネーション、ファクトチェック、著作権等へは対応が必要だと、皆さんが同じことをおっしゃっているような気がします。
 第1回目でしたっけ。技術内容や技術の進歩に関しては、十分な注意と対応が必要ではないか。こういった辺りは皆さん御意見が同じです。
 今日、これからの時間は、そういった同じ意見のところは次回以降まとめる際に議論したいと思っておりますので、今日は、このまとめていただいたものに関しまして、足らない部分があるかということを中心に御意見をいただければと思います。次回以降、今まで出た意見はこういうものでありますので、これを基にまとめに入りたいという手順を私は取りたいと思っておりますので、今日のところは、ここに書いていないような足らない部分があれば、今回出していただければなというふうに思っております。
 では、そういった観点で御意見のある方は挙手のほうをよろしくお願いいたします。相澤委員、どうぞ。
【相澤委員】  相澤です。
 私は今日新井先生の御発表にあったトルキスタンの例は教材に使ってもいい例であったというふうに受け止めておりまして。確かにハルシネーションとファクトチェックの話、これまでも多々議論になって、この中にも書いてあるんですけれども、AIのリスクを考えて解決策を検討していく上で、利用シーンを限定するということは強力な解決策になり得るという観点でいうと、どういう質問をするとハルシネーションが起きるのか、どういう質問したときに返ってくる回答に対してファクトチェックが非常なコストを要するものになるのかということについての感覚の学びというのが1つ重要であると考えられますので、ファクトチェックをする一段手前として、ハルシネーションを起こしやすい質問とは何かというのを学ぶということも、少し今日の御発表を踏まえて強調してもよいのかなというふうに感じました。
【石川座長】  どうもありがとうございます。ほかいかがでしょうか。
 ないようなので、相澤先生にちょっとお話を伺いたいんですが。今日、新井先生はハルシネーションのことを「でっち上げ」という言葉を使われていたんですけれども、ハルシネーションは基本的には、要は、与えられたデータの中からトランスレーションも含めたあるモデルの最適化問題を解いて、それを出しているだけということなので、でっち上げというのは根拠がないものなんですけれども、間違った根拠も含めて、それから、最適化問題といってローカル、ミニマムを含めた解を出しているということなので、でっち上げ、一般の方に分かりやすく御説明いただいたんだと思うんですが、それとはちょっと違うような、もうちょっと広いような気がするんですが。
【相澤委員】  そうですね。正しいものを2つ組み合わせれば正しくなくなる場合もありますし、元情報が正しくない場合もちろんありますし、いろいろな状況から日本語への翻訳が難しくて、ハルシネーションとしか言いようがない出力が生じてきます。AI自体はでっち上げようという意図は持ってはいないというふうには思います。
【石川座長】  そうですね。あくまでも言語モデルであって、知識のモデルではないということだと思うんです。
 では、佐藤委員。
【佐藤委員】  ありがとうございます。佐藤でございます。
 全体的な議論として感じたこと2つでございます。
 1つ目は具体的な留意事項とありますけれども、現在のガイドラインの要素がかなり中心的になってくるところはあるんじゃないかなと思ったのが1つ目です。
 2つ目ですけれども、この初回の経産省や総務省の発表などがございました。ガイドラインがそのほかでも出ていますけれども、そういった発表内容の平仄をそろえていくと、足りない部分がある程度網羅できていくんじゃないかというふうに思ったのが2つ目でした。
 それから、各主体についてですけれども、主体別に捉えていくと、教育委員会や学校現場の話が少ないなというような、そういう印象も持たれます。ですから、リーディングDXの生成AIパイロット校であったり、ここで鈴木委員やつくば市、みんなのコード様が取り上げてくださっているので、そういったことを入れていくと分かりやすくなってくるんじゃないかなというふうに思っております。
 ただし、世間一般的に見ると、先進的に見え過ぎてしまうと、私たちでは難しいというようなそういった事例にもなっていってしまうので、そこは表現の工夫が必要だというふうに捉えております。
 それから、教育委員会の留意事項ですけれども、これも補足になりますが、セキュリティーの話がすごく大事になってくると思います。特に制限がかかってしまうと、例えば、子供も先生も新しい情報技術を学ぶという観点からも、禁止がされると大変学びができなくなってくるという可能性もあるので、禁止を禁止するという、多分吉田委員の話だったと思いますけれども、非常に大事な要素かなというふうに捉えております。
 あとは、具体的なことで言いますと、学校内で使いたいというときに、どういった体制になっているかというようなことも書いておくと、学校での具体的な校務分掌の設定等できるかなというふうに考えております。リーディングDXにも具体事例があると思いますので、そういったものが入ってくるといいのかなというふうに捉えているところでございます。よろしくお願いいたします。
【石川座長】  ありがとうございます。
 今の佐藤委員の2番目の他省庁あるいは他国のガイドラインということに関しては、文科省のほうである程度モニタリングはしていただいておると思うんですが、寺島課長、いかがでしょうか。
【寺島学校情報基盤・教材課長】  ありがとうございます。
 今日の資料3で言うと、4ページの140行目辺りのところに、少しだけ触れられているところがあるんですけれども。これは第1回でしたかね。先生に御指摘をいただいたところだと思うんですが。4ページの144行目のところでいきますと、ここで少し例示をされているのは、安全・安心、プライバシー、透明性、あと、もう少し言うならば、著作権の問題、この辺りは事業者ガイドラインでも触れられていて、それは今佐藤委員もおっしゃいましたけれども、基本的には教育でも共通するものがあるのではないかということを、この140行目、141行目でも御意見がありましたけれども、我々も基本的にそういうことを考えておりますので。
 例えば、主体ごとに、児童・生徒あるいは教員、教育委員会というふうに主体ごとに書いたとしても、共通するところは縦串でこういったところも触れるような在り方というのもあるのではないかなというふうに思いますし、一方で、教育はここは特有だということがあれば、ぜひこういう場でも御意見をいただければなというふうに思っております。
 以上です。
【石川座長】  他省庁や他国のガイドラインというのはいかがですか。
【寺島学校情報基盤・教材課長】  多分、今佐藤先生が言われた他省庁というのは、事業者ガイドラインということで、第1回で、これは総務省と経産省がまとめたものということだろうと思いますけれども、それはしっかり見ていきたいというふうに思いますし。
 他国のところも、まだなかなか具体的でないガイドラインというか、基本的な考え方みたいなものを出されているところが多いんですが、そういうところを見ていると、今日の資料で言うと、基本的な考え方で示されているようなところというのは、何となく各国ともに共通しているのではないかなと思うんですけれども、今日の資料で言うと3番目以降になって具体的になってくるところになってくると、まだまだ他国の例もそんなに例もないようなところなので、そういった意味では、基本的な考え方は参照しながらまとめていくということかなというふうに思っております。
【石川座長】  今回の議論で言うと、トップレイヤーの議論は他国にもあるけれども、ボトムレイヤーに関してはまだまだということですね。ありがとうございます。
 この件に関しては、江間先生がいろいろとお考えがあるのではないかと思いますが、いかがでしょうか。
【江間委員】  ありがとうございます。
 前回私お休みしてしまったので、このガイドラインが結局どういう形で最終的になるのかまだよく分かっていないのですけれども、いわゆる共通項としてのガイドラインの話と事例集みたいなものという話は出てきたと思うんですが。
 共通項としてのガイドラインみたいなところで何を入れるのかというところに関して、ここで挙げられている安全・安心、プライバシー、透明性もそうなんですけれども、何を誰のためにどこまでこのガイドラインがあるのかなというところを、今日お話を聞いていて少し、うまく言葉になっていないですが、悩んでいるというか、なっていないというところです。
 何を悩んでいるかというと、新井先生もおっしゃっていましたけれども、結局、ガイドラインとしてというよりは枠外の話になってくるのかなと思ったんですが。結局、コストの話ですとか、今後、学校現場がこういう生成AIを使っていくときに、どこまで依存していっていいのかというような話や、あと、日本ではほとんど議論されていないんですけれども、環境負荷みたいな話というのはすごく大事になってきているわけですよね。
 生成AIをどんどん使っていくと、結局のところ電力を物すごく使うというところで、その辺に関する環境負荷の問題みたいな話というのを、ある意味、ここの事業者ガイドラインでも、日本ではあまりというか、ほとんど問題になっていないで、触れられていないんですけれども、AIの倫理ということを考えていくことでは大事にしなければならない論点というのがあって。
 現場ガイドライン、先生たちは役に立つものというところで、このような論点は入れるべきではないのかもしれないですけれども、AIを使っていくということに関して、我々が意識しておかなければならないことというのはいっぱいあるんですね。それをどこまでここに入れられるべきなのかどうなのかというのが分からない。
 ただし、AIを利活用していくという観点においては、例えば、ただ単に自分たちが安全・安心とか、自分たちを守るですとか、プライバシーを留意してほかの人たちの著作権を侵害しないようにしましょうねというようなNGリスト以外にも、なぜ私たちはAIを使わなければならないのかというような、生きる力みたいな話もありましたけれども、そういう基本理念の話と同様に、例えば、AIに依存することによってどんな問題が起きるのかとか、それは考える力とか思考以外にも環境負荷の問題があったりですとかコストの問題があるみたいなところを、ある程度、かなり上位のレイヤーになってしまうかもしれないんですけれども、AIとの付き合い方みたいなことの視点は、本当軽くでもいいかもしれないですが、入っていていただけるといいのかなとちょっと思った次第です。
 かなり上の抽象論の更に抽象度の高い話になっていってしまうんですけれども。ということを思いました。
【石川座長】  ありがとうございます。トップレベルのレイヤーではそういう議論も必要かなというふうには思いますが、書き方の問題になるかと思います。
 それから、江間先生がちょっとおっしゃっていた誰がこのガイドラインを使うということに関しては、この検討会の中でも、教員、AIを使う側の生徒・児童、それから親御さん、教育委員会、そういったものに対しては、受け取る対象を念頭に置いた記述が必要なのではないかという議論はあったように思います。
【江間委員】  すみません。補足ではあるんですけれども。AIを何のためにどう使うのかという議論は、やはり最初に書かざるを得ないような気はするんです。今までの議論を考えていても。
 そうしたときに、AIの議論は、知識だとか人々の生きる力とか、それこそ学ぶ力とか、そういうのだけではなくて、技術と人の関係性といったときを考えたときに、自分たちが使う技術というのがどういう社会的な、経済的な、あるいは倫理的な影響をもたらすのかということは、それこそ、子供たちが技術を使うときに、地球温暖化の問題ですとかバイアスの問題とかがありますが、なぜバイアスが悪いのかとか、男女差別ですとか、あるいはマイノリティーの方に対する配慮とかいうところの基本的なところを考えた上で、それを知った上でAIを適切に使うという話とも関わってくるので。
 もしガイドラインというところで考えていっていただくには、これは駄目ですよ、これはいいですよと言うより、その背景というか、根本にある、じゃあ、なぜ差別だとかバイアスとかが起こるのか、あるいは、技術を使うことによっての地球環境問題とかそういうことに影響があるのか、あるいは、技術に対する依存問題が起きるのかみたいな話をなくて、ただNG、駄目ですとか、これは著作権で法律で決まっているから駄目ですというようなところではなく、技術と社会と人とが互いに関わり合っているからこそこういうことを考えていかなきゃいけないし、技術も進化していくし、人々の考え方とか法律とか制度とか倫理とかもある程度相互作用しているから見直しが特に必要なんですよというような話を入れていってほしいなと思いました。すいません。コメントですので。
 以上です。
【石川座長】  ありがとうございます。
 続きまして、利根川委員、鈴木委員の順でお願いしたいと思います。まずは、利根川委員、どうぞ。
【利根川委員】  鈴木先生のほうが先だった気がしますけれども。失礼いたします。
 論点の加筆みたいな観点からいいますと、まず、生成AIといったときに、GPTをベースとしたテキストの生成の話が何となく中心に書かれているかなと思いますので、マルチモーダルとかその辺りも1ポツの生成AIに関わるサービスに入れるのかなと思います。画像生成とかマルチモーダルになってきますと、著作権の意識とか情報リテラシー、その辺りも含めて書く必要があるかなというふうに考えております。
 また、今申し上げたマルチモーダルの部分も含めて、今、江間先生からもお話もありましたけれども、バイアスのところで、ハルシネーションと環境とバイアス、この辺りはやはり大事な観点かなと思いますし、特に、日本だとあまり話題になりませんけれども、海外の方とAIについて話すと、ハルシネーションより、先にバイアスの懸念が来るというところもありますので、ジェンダーとか学習データとバイアスの観点についても、多分、23のハルシネーションの次ぐらいのところに書いていただけるといいんじゃないかなというふうに思っております。
 また、それが先生とか教育委員会の方に対しても、GPT以外のものもあるんだというところと、子供が触れていくんだというところかなと思います。
 26行目、子供たちの学習環境に統合されていくと書かれているんですけれども、実は、もはや学習だけではなくて生活環境に統合されていくというような観点で、もう少し広く意識するというところが大事かなと思っております。
 また、何行目にどう書くという話ではないんですけれども、私たちも教材を提供していて、無償ではあるんですが、事業者的な観点で見ますと、このガイドラインを見たときの感想みたい形になってしまうんですけれども、事業者としては、学校に提供する前提で安全性を確保して、今度、逆に私たちの教材を知った教育委員会とか校長先生とかがこのガイドライン見て大丈夫そうかなとチェックして、じゃあ使おうとなると、そういう流れがイメージできるというふうになっているといいかなと感じました。
 最後、241行目辺りからパイロット校のところです。今月、文科省のほかの会議で、学習指導要領とかのところでも、AIについて今後どういうふうに資質・能力を育んでいくのか検討すべきなんじゃないかみたいな議論が出ていたのもありますし、私どもがいろいろなパイロット校とかの実践を聞いている中でも、情報活用能力の育成に向けてAIをやろうというときには、やはり時間のやりくりに苦労しているなという声も多く聞こえております。
 また、それを含めてこの実践例として出していくときに、単元の実践情報としてもそうなんですけれども、教育課程としてどのように位置付けるのかとか、子供の全体の発達としてどういうところがあるのかというふうに、単にこれやりましたを超えたものが見えてくればいいかなというふうに感じております。
 以上5つ申し上げました。私からは以上です。
【石川座長】  どうもありがとうございます。
 鈴木委員、どうぞ。
【鈴木委員】  ありがとうございます。
 前回、文部科学省側から学習指導要領についての話がありましたが、そことの関係をきちんと書いておいた方がいいかなということを思います。
 今日出していただいた資料だと、101行目辺りからのところが一番そこに関わるかと思いますけれども、現在の学習指導要領の目指すところを実現することと生成AIを活用するということは齟齬を来すものではないのだということは明確にしておいていいのではないでしょうか。
 その肝になるのは、「主体的・対話的で深い学びを実現しようと授業設計すれば、おかしな使い方にはなりません」ということを言えばいいのではないかなと思っているのですが、資料を読むと、実は「指導要領」という言葉は1回だけで、「主体的・対話的で深い学び」とい言葉は出ていませんでした。話には出ていたと思うのですが、資料にはなかったのですけれども、ガイドラインではそこをきちんと書いた方がいいかなと思いました。
 先ほど新井先生のお話を伺いましたけれども、それはハルシネーションがあることも想定した上で授業を設計すればいい話で、ちゃんと主体的・対話的で深い学びを実現しようとすれば、「検索エンジン的な使い方をしてAIが出してきたものをファクトチェックしなくてはいけないのが大変」みたいな話には絶対にならないのです。ですから、指導要領との関係をきちんと明記したいなと思っています。
 以上です。
【石川座長】  ありがとうございます。
 指導要領もそうですし、それに関連して中央教育審議会との関係というのがございますので、この辺り、寺島課長どうでしょうか。
【寺島学校情報基盤・教材課長】  ありがとうございます。
 今、鈴木委員からの御意見、直接答えになるか分かりませんけれども、中教審との関係ということで少しお話を申し上げますと、この検討会議自体は中教審とは別の会議体として御議論いただいているわけでありますけれども、この会議体が始まる前の7月の段階で、中教審の中にデジタル学習基盤特別委員会という委員会がございまして、その委員会に対しては、今、こういう会議体を立ち上げて、これから議論をしていきますという御報告を申し上げました。そしてまた、この検討会議での議論はその特別委員会でも報告をさせていただきますというようなことも7月の時点でやっておったところでございます。
 そして、このデジタル学習基盤特別委員会、中教審のほうですけれども、これが近々また開催される予定になっておりますので、今日のこの3回目、4回目あたりまでの御議論については、このデジタル学習基盤特別委員会のほうにも経過、状況の御報告という形でおつなぎをし、また、その中教審の中で、また別の学習指導要領を含めたいろいろな議論のところにも、中教審の中でそういった報告がつながっていくのかなというふうに思っておりますので、そういったことで、少し中教審とこの検討会議とも行ったり来たりしながらまとめていくということが必要なのかなというふうに思っております。
 以上です。
【石川座長】  どうもありがとうございます。
 ここでの議論は、中教審の特別委員会には情報としては流れているということだと思います。
 それから、鈴木委員がおっしゃったのは、今の学習指導要領の使えるところは――使えるところはっていい表現じゃないですね。骨子として受け入れたほうがいいところは、きちんとこのガイドラインでも書いたほうがいいという御意見もありますし、次の学習指導要領に関しては、こちらのガイドラインのほうが先に出ますので、こちらのガイドラインを学習指導要領のほうに反映させるということは可能ではないかというふうに思っています。
 ただ、学習指導要領をこう書いてほしいという話には多分ならずに、こういう活動、こういうガイドラインがありますという形で伝えるという形になるかとは思います。
 ほか御意見ございますでしょうか。森田委員、どうぞ。
【森田委員】  森田です。
 今日、いろいろ懸念事項もあって、実際に使っていない学校や市町村もあるということから考えると、前回のガイドラインについては、一部の学校が対象、パイロット的な取組という中にやるべきことが書いてあったわけなんですけれども、AIは何者か、AIのメリット・デメリットは何なのか、向き合い方はこうあるべきだということについては、全ての学校が学ぶべきことであるだろうというふうに思っています。
 ですから、そういうことが分かるように書きたいなと思うんですけれども、先ほど鈴木先生からありましたように、学習指導要領との関係性とかも含めながら、なぜ必要なのかということをしっかり分かるように伝えていきたいなというふうに思います。そして、それが横展開するためには、不安を取り除く部分と、そのとき横展開するために必要なことをやるべきことというのがあるんだと思いますので、そこは分かりやすく書くべきだろうというふうに考えます。
 少し細かいところになりますけれども、必要なものとして、私たちのところでもちょっと問題になった、先ほども言ったんですが、AIの活用については保護者の同意を得なければいけないという中で、同意されない保護者もいるのではないか。そういうときにどうするかということもある程度を示しておかないと、じゃあ反対されたから使わないことにしようのようなことになってしまったらまずいんじゃないかなというふうに思いました。
 それから、生成AIのアプリを使用する際に、ログを取って個人情報を収集するという場合もあると思うんですけれども、そういうものを使った場合に収集される個人情報の利用目的とか利用範囲、共有する範囲ですね、これをどこかに示していく必要があるんだということも示していく必要があるのかなというふうにはこれまでの実践や議論の中で感じたところです。
 以上です。よろしくお願いします。
【石川座長】  ありがとうございます。
 今森田委員がおっしゃっていた同意を得られなかった場合というのは、先ほどの御発表でもありましたけれども、具体的にはどういうふうに説明なさるんでしょうか。
【森田委員】  つくば市の場合は、リーフレットも作成して、生成AIを使う考え方はこういうことで、使う場面はこんなところですということを説明して、それで納得をいただいたんですけれども、それでも納得されない方もいらっしゃるのではないかなという、そういう雰囲気を感じる地域の方もいらっしゃいましたので、そういう場合どうするんだろうなというのをすごく心配しながら今いるものですから、ちょっと言わせていただきました。
【石川座長】  今のところは王道で御説明なさっているということですね。
 では、藤村委員、吉田委員の順でお願いします。まずは、藤村委員、お願いします。
【藤村委員】  今の森田委員がおっしゃったこと、保護者同意の件なんですけれども、先ほど来議論しているように、全ての子供たちにこの生成AIに関する教育をする必要があるということになると、例えば、学習指導要領上の中身にも反映するというのもありますが、そのとき必要なのは、現在の生成AIの利用者規程ですね。利用規程が個人利用を前提にしているという問題点があるんだと考えています。
 学校の管理下において使う場合は、保護者同意がなくても教育活動の一環として利用することを許容しますみたいなガイドラインの改訂を働きかけるということもあっていいのではないかなと。そういうようなこと。ガイドラインじゃなくて利用規約のほうを改訂を働きかけるということもあっていいんじゃないかなと思ったものですから一言申し上げました。
 以上です。
【石川座長】  ありがとうございます。
 吉田委員、どうぞ。
【吉田委員】  保護者同意に関してなんですが、ある自治体でオプトアウト形式で実施しているということも伺ったことがありまして、例えば、本当は同意しているんだけれども、そもそも同意書を出してくれない方もいらっしゃると、学校として全学的に導入できないという実務的なハードルが出ると思うので、ぜひオプトアウトにしましょうとまでは言わないにしても、オプトアウトという選択肢はありますよ、そうすることによってある程度進め方がスムーズになりますよといったかなり具体的な情報提供も1つ有用なのではないかなというふうに感じております。
 以上です。
【石川座長】  ありがとうございます。
 ほか、このまとめで足りないところに関しての御意見があるとありがたいんですが、いかがでしょうか。いかがでしょうか。御意見がないということなので……。鈴木先生。
【鈴木委員】  よろしいですか。私もどうすればいいのか自分で考えがまとまっていないのであれなんですが、項目としてはあったほうがいいんじゃないかなと思っているのは、不登校対策に生成AIを使うことをどうするのかというところは、期待している向きも結構あると思うんです。
 学校に来られない子たちに対しての支援・指導に生成AIを使うということに関して期待する向きもあると思うんですけれども、それの注意点とかどういうふうに進めればいいのかというのは学校の中のこととはちょっと違うと思うので、そこはあってもいいかなと。不登校30万人時代なので、そこは無視しないほうがいいかなということは思っていますが、どうしたらいいのか私はまだ考えもまとまらないので、そこは申し訳ないんですけれども、ちょっと出せればと思いました。
 以上です。
【石川座長】  ありがとうございます。
 不登校以外にも何か我々が忘れているような活用の手段というのはあるかもしれない気がしますね。それは、もしお気付きの場合はおっしゃっていただけるとありがたいなというふうに思っています。
 ほかいかがでしょうか。
 皆さんからの御意見があんまりないようなので、私、ちょっと気になっていることがございまして。今までの議論を聞いていますと、これはまとめ方とも関係するので、初等中等教育段階における生成AIの利活用という範囲の話と、それを超えた話、例えば、情報教育をどうしたらいいかとか、それから、もともと学校現場での教育にハルシネーションはないのかというようなところもあって、少し大きな話で議論がなされているところもあるんですが、初等中等教育段階における生成AIをどの辺りで線引きして書くかというのは、少し悩みどころかなというふうに思っております。
 情報教育全体を言い出すと大変な話になってしまって、更に教育現場での学習の方法の在り方みたいなところにまで積極的に突っ込むということは、記述としてはあるべきだとは思うんですけれども、積極的に突っ込むというほどの記述にはなかなか手を出しにくいなという感覚を持っています。
 記述はすべきだと思うので、うまい記述方法は考えなきゃいけないんですけれども、情報教育はこう変えるべきだとか、学校教育のここをこう変えるべきだというのは、ちょっと外側過ぎるかなと。ただ、生成AIが入ることによって、この辺までは変わりますという生成AIに関連したことに関しては書いてもいいのかなという、そういう認識を持っているんですが、いかがでしょうかね。ちょっと微妙な、どこまで書くか、具体的な文章とかガイドラインを見てからでないと難しい。
 佐藤委員、どうぞ。
【佐藤委員】  佐藤でございます。
 現段階では、初等中等教育段階ですし、学校現場の視点で活用すると実務的にはどうかということが中心に書かれることが大前提かなというふうに思いました。いかがでしょうか。
 以上です。
【石川座長】  議論の中に少し大きな話もあったので、ちょっと懸念していたのですが、佐藤委員から明確にお答えいただくと、その辺りを意識しながらまとめるということでいかがでしょうかね。
 利根川委員、どうぞ。
【利根川委員】  多分、一番情報教育全体を毎回のように発言していたのは私かなと思いますので、一言申し上げます。
 そういう観点、情報教育全体で考える観点が必要だというのは、まずこの会議の中で共有される部分と、最終のガイドラインというのは、佐藤先生も今おっしゃったように、あくまで学校現場とか教育委員会の方の道しるべとなるというのが第一義かなと思っておりますので、そこは忘れずに、ただ、その中で、じゃあAIの活用でどういうことができるのかですとか、AIを活用するに当たって密接に関連する情報活用能力の育成とか情報教育の在り方がどうなるのかというところは、座長もおっしゃったように、書くのに適切な範囲についてはぜひ記載できるといいかなというふうに考えております。
【石川座長】  ありがとうございます。書き方の問題もあると思いますので、ぜひ利根川委員の御意見をこの後に     いただければなというふうに思います。書き過ぎもいけないし、書き足らないのもいけないかなという気はしております。
 ほかいかがでしょうか。
【細田委員】  いいですか。
【石川座長】  細田委員、どうぞ。
【細田委員】  すいません。じゃあ、短く。
 最初から私、申し上げたことは記憶にあるんですけれども、自治体間格差とか学校間格差の問題というのは歴然と横たわっているなというのを最近とみに感じております。ですので、今も情報教育の在り方、推進、GIGAスクール構想もそうなんですけれども、自治体間格差、学校間格差をできる限り小さくしていくために、リード文の辺りでもいいと思うんですけれども、大きな姿勢をこの会議体としては示していって、とにかく格差の是正についても心を配っていくというのがここに課せられている部分もあるんじゃないかななんていうふうに思っているところです。
 以上です。
【石川座長】  ありがとうございます。
 続きまして、江間委員、お願いいたします。
【江間委員】  ありがとうございます。ほかの委員の先生方とほぼ同じ意見ではあるのですけれども、リード文の辺りなのか分からないですが、なぜ今この議論をしているのかということと、そして、これによって、ある意味ガイドラインはどんどん改訂はしていくものではあると思うんですけれども、現時点でこの議論をしていたメンバーの人たちが教育現場では何を考えてほしいのか、どういうような議論というか位置付けでAIを使っていくのがいいとされるのかということを大前提には書いておかないと、方法論的というか、ハウツーというか、そこになってしまうと、それはそれで現場では役に立つものなのかもしれないんですけれども、状況は変わりますし、技術も変わりますし、人々の考え方も変わっていきますという中においての指針となるべきものは最初にあってほしいなというふうには思っております。
【石川座長】  ありがとうございます。
 今、江間委員のおっしゃったようなことは、総論としてはそう書きましょうというのは全体の合意だと思いますが、どう書くかということに関しては今後議論が必要ではないかというふうに思っております。
 それでは、もういい時間になりましたので、本日も活発な御議論ありがとうございました。今後、ガイドラインの改訂に向けて議論をまとめていくという段階に移るというふうに思っております。議論をまとめていく段階、次回でガイドラインの改訂に必要な論点をもう一度まとめていただいて……。もう一度じゃないですね。これまでの議論をまとめていただいた上で、必要な論点をまとめていただくということが必要かと思っています。本日前半の議論も含めて、事務局においてガイドラインの改訂に向けた論点の整理をしていただくようお願い申し上げます。
 最後に、次回の予定について、事務局から説明をお願いいたします。
【渡部学校デジタル化PTサブリーダー】  事務局よりお知らせいたします。
 議会の本検討会議の日程につきましては、追って事務局から御連絡をさせていただきます。
【石川座長】  それでは、本日予定した議事は全て終了いたしましたので、これで閉会といたします。本日はどうもありがとうございました。
 

―― 了 ――

お問合せ先

初等中等教育局学校デジタル化プロジェクトチーム

(初等中等教育局学校デジタル化プロジェクトチーム)