信頼されるAI
近年、AI技術を用いたシステムやサービスが広がるなど、様々な形でAI技術が社会の中に浸透しつつある。このような中、「人間中心のAI社会原則」（平成31年3月統合イノベーション戦略推進会議決定）を踏まえ、人工知能（AI）の社会実装を推進するための「AI戦略2019」（令和元年6月統合イノベーション戦略推進会議決定）が策定され、「信頼される高品質なAI」(Trusted Quality AI)の開発の重要性等が打ち出された。
その一方で、現在のAI技術の中心である深層学習（ディープラーニング）は、大量の教師データを必要とし、また結果の説明性・納得性の向上や公平性の確保、未知ケースでのぜい弱性の克服等、信頼性・安全性に関する課題が指摘されるようになった。さらに、データ自体についても、フェイク情報の流通やデータ改ざん等、信頼性・信ぴょう性に関わる問題が発生している。
このような課題に対して、現在のAI技術を対象とした対策が喫緊の課題となり、産業界ではコンソーシアム等による対策の検討も始まっているが、その限界を超えたAI技術そのものの発展・革新が必要であるほか、社会からの要請に応え得る根本的な信頼性確保が求められる。
本戦略目標では、今後のAIの進化と信頼性確保のための基盤技術の開発を行う。
本戦略目標では、「人間中心のAI社会原則」に基づいた「信頼される高品質なAI」(Trusted Quality AI)の創出に向けた研究開発を推進する。具体的には、以下の3つの達成を目指す。
(1) 現在のAI技術の限界を克服する新技術の創出
(2) AIシステムの信頼性・安全性を確保する技術の創出
(3) データの信頼性確保及び意思決定・合意形成支援技術の創出
3．「達成目標」の実現を通じ、AI技術の信頼性・安全性の問題やデータの信頼性・信ぴょう性の問題等への対策が可能になり、信頼される高品質なAI技術（Trusted Quality AI）が社会に実装され、人間がそれを幅広く活用することで、社会の中で安心してAIを利用できる人間中心のAI社会実現に貢献する。
・AI技術を応用したシステムの安全性・信頼性が高まり、社会の様々な場面でAI技術を安心して活用できる社会
・AI技術と人間の親和性が高まり、AI応用システムが人間に寄り添い、意図や文脈を理解して人々の生活・活動を適切にサポートしてくれる社会
・発信される情報や流通するデータの信頼性が高まり、人々が主体的に意思決定や合意形成を行える社会
・AI応用システムの開発・運用の負荷が軽減されるとともに、システムの信頼性・品質の高さが日本の強みとなり、AI応用産業が広がる社会
（1）現在のAI技術の限界を克服する新技術の創出
現在のAI技術の限界が指摘されており、その限界が「信頼されるAI」実現の阻害要因となっているため、AI技術そのものの発展・革新に向けた研究を行う。具体的には以下の研究等を想定。
・人間の脳情報処理や認知発達過程に関する知見に基づく新しいAI原理の研究
・深層学習のような帰納的な処理と知識・言語による推論・プランニング等の演えき的な処理を最適に融合させたAI技術の研究
・大量教師データが与えられなくても、実世界環境との相互作用を通して、知識獲得・成長するAI技術の研究
（2）AIシステムの信頼性・安全性を確保する技術の創出
AIに対する社会的要請への対応のため、AIシステムの信頼性・安全性を確保するための研究を行う。具体的には以下の研究等を想定。
・判断・推論の根拠を説明できるAIを実現するための技術の研究
・未知・想定外ケースや環境変化にも頑健なAIを実現するための技術の研究
・(1)にあげたような新しいAIにおいても、AIシステム全体の安全性・信頼性の確保、品質保証を可能とする技術の研究
（3）データの信頼性確保及び意思決定・合意形成支援技術の創出
人間中心のAI社会を実現するため、データの信頼性・信ぴょう性の確保及び主体的意思決定支援のための研究を行う。具体的には以下の研究等を想定。
・フェイクニュース、フェイク動画、データ改ざん等を検知し対処する技術の研究
・人間が主体性・納得感を持って、適切かつ迅速に意思決定・合意形成することを支援するための技術の研究
（国内動向）
達成目標(1)については、新学術領域研究「人工知能と脳科学の対照と融合」（平成28～令和3年度）やCREST「知的情報処理」（平成26～令和3年度）において、脳情報処理や認知発達過程に関する研究とAI研究を融合する取り組みが行われている。
達成目標(2)については、AIの説明可能性（XAI）と品質保証（QAI）を主要課題とした研究領域として、新エネルギー・産業技術総合開発機構（NEDO）「ロボット・AI中核技術開発」の「人工知能の信頼性に関する技術開発」、科学技術振興機構（JST） 未来社会創造事業 超スマート社会領域の「AI技術の革新」が平成31年度に設定された。
達成目標(3)については、フェイク対策につながる基礎研究がCREST「共生インタラクション」（平成29～令和6年度）やさきがけ「社会情報基盤」（平成26～令和元年度）に、また、集合知の醸成を目指した研究がCREST「知的情報処理」やJST 未来社会創造事業「持続可能社会」領域において行われている。
（国外動向）
EUの「信頼できるAIのための倫理指針」、Institute of Electrical and Electronics Engineers（IEEE）の「倫理的に配慮されたデザイン」等、AIの倫理に関する国際的な議論や指針策定が進んでいる
米国においては、DARPA（国防高等研究計画局）によって「説明可能なAI（XAI）」に平成29年から約80億円の投資がなされ、国防上の意思決定のためAIの説明性を強化する取組が進められている。その他、平成28年からは「Media Forensics」に投資を行い、フェイク動画検出を含む情報の信ぴょう性・正確性に関する研究開発も強化している。また、平成30年には「AI Next Campaign」を発表し、20憶ドル以上の大型投資を実施した。
これからの第3の波を「Contextual Reasoning」（「文脈適応」または「文脈推論」）と位置付け、説明可能なAI(XAI)を目指した研究開発を進めようとしているなど、「信頼されるAI」の重要性は米国等他国においても認識されている。例えば、EUは、既に「Trusted AI」を対象に含めた研究共同公募を実施している実績があるほか、安全性・信頼性・プライバシー等を重視しているという点で日本と類似性がある。
「戦略目標の策定の指針」（令和元年7月科学技術・学術審議会基礎研究振興部会決定）に基づき、以下のとおり検討を行った。
1．科学研究費助成事業データベース等を用いた国内の研究動向に関する分析及び研究論文データベースの分析資料を基に、科学技術・学術政策研究所科学技術予測センターの専門家ネットワークに参画している専門家やJST研究開発戦略センター（CRDS）の各分野ユニット、日本医療研究開発機構（AMED）のプログラムディレクター等を対象として、注目すべき研究動向に関するアンケートを実施した。
2．上記アンケートの結果及び有識者ヒアリング等を参考にして分析を進めた結果、AIの信頼性を確保するための基盤技術の構築が重要であるとの認識を得て、注目すべき研究動向「人間中心社会におけるAIの信頼性を支える基盤技術」を特定した。
3．令和元年12月に、文部科学省とJSTは共催で、注目すべき研究動向「人間中心社会におけるAIの信頼性を支える基盤技術」に関係する産学の有識者が一堂に会するワークショップを開催し、これからの人工知能の進化やそのために必要な信頼性確保のための技術等について議論を行い、当該議論等を踏まえ、本戦略目標を作成した。
「AI戦略 2019 ～人・産業・地域・政府全てにAI～」（令和元年6月11日統合イノベーション戦略推進会議決定）
II．II-2
まずは、日本の強みを活かし、我が国の将来を活性化させるため、(1)実世界領域へのAIの展開と、(2)インクルージョンのためのAIとの2つを大きな柱とし、これに連なる技術体系の構築と、基礎研究を推し進め、さらに、応用・実装を促進していくことが肝要である。また、これらの柱の前提として、我が国は、信頼される高品質なＡＩ（Trusted Quality AI）を開発する一連の技術と運用ノウハウを確立することが重要である。これは、「人間中心のAI社会原則」の理念を反映する観点からも、競争優位性を確立する観点からも重要である。
III．III-2
AI技術の発展を根本から支えるものは、大量のデータである。質の高いデータを収集し、サイバー攻撃などのリスクなどから守りながら、それらを分析・解析に活用することは極めて重要である。
このため、我が国においても、諸外国に遅れることなく、政府や民間が有するデータの連携・標準化に取り組む必要がある。そして、その過程においては、ビッグデータの中の偏りを防止し、AI活用のリスクが生じないようにしなければならない。
他方で、データや真正性、更には本人確認といった点における、信頼確保が極めて重要である。既に、米国では政府調達分野でのトラスト基盤、EUでは共通トラスト基盤の構築が進められており、我が国でも関連の検討が開始されているが、例えば、サプライチェーン全体のセキュリティ確保（「サイバー・フィジカル・セキュリティ対策フレームワーク」）などの検討を加速していかなければならない。
本戦略目標に関連する施策として、理化学研究所や情報通信研究機構（NICT）、産業技術総合研究所（AIST）等において、AI戦略に基づいた研究が進められており、機械学習の理論研究、社会実装に向けた応用研究等を中軸とした研究を行っている。一方、信頼されるAIに関する研究開発については、現在のAI技術の限界を克服するための原理（パターン処理と記号処理の統合等）に基づく新たなAIの開発や、それによるAIの信頼性確保等の要請に応えようとするものであり、幅広い基礎研究を行うことが求められる。本戦略目標では、こうした理化学研究所等における研究と適切に連携しながら実施することが求められる。また、海外動向を踏まえ、必要に応じた国際連携の推進を期待する。
研究振興局基礎研究振興課
金子、濱田
03-5253-4111（内線4120）