あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。／他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。／こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組む。
本事業は、「サイバーセキュリティ戦略」（令和３年９月28日閣議決定）において、「AI を活用したサイバーセキュリティ対策（ AI for Security ）に関しては、（中略）国は、 AI 技術に関する総合的な戦略等に基づき、 AI を活用した民間のサイバー対策を引き続き後押しするとともに、予防、検知、対処の各フェーズにおいて AI を活用した高効率かつ精緻な対策技術の確立を推進していく。さらに、AI そのものを守るセキュリティ（ Security for AI ）では、（中略）我が国においても基礎的な研究を振興するとともに、 ５～10年先に実現を目指す長期的取組として、引き続き技術課題の検討を進めていく。」とされたものであり、総務省が実施すべきものと認められる。
終了予定 （１）あらゆる分野において生成AIの実装が急速に進んでいる一方、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されており、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むことが必要である。他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバー攻撃対策への生成AI等の利活用が期待されており、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組むことが必要である。しかし、国内ではアカデミア及び民間においてAIの論文数は他国と比較して少なく、AIのセキュリティに関する研究活動が不足している。そのため、国の事業として、最先端の研究を行っている米国等との共同研究を推進していくことが重要である。他府省庁とのかかわりに関しては、事業の重複が起こらないよう関係府省庁と打合せ等を実施し連携を行いつつ事業を進める。（２）セキュリティのような機密性の高いテーマを議論するためには、連携先との信頼構築や厳密な情報保全が重要であり、様々な専門機関がある北米に研究拠点を構築した。（３）我が国のサイバーセキュリティ研究を推進することで、他の関連施策とともに国内のセキュリティ水準の向上に資すると考えている。（４）「３０１：短期アウトカム」及び「５０４：長期アウトカム」の成果指標における、目標とする企業数の根拠については、それぞれの「実績／目標／見込みの根拠として用いた統計・データ名（出典）」に記載した。