AI安全性に係る国際会合への参画、及び高性能なAIシステムの利用に係るガイド等の開発事業

我が国のAI安全性の知見のハブであるAISIが、海外AISI等のAI安全性に係る専門機関との間で最新のAIシステムの開発・利用に係る課題の把握や最新知見等の共有を行うことを支援しつつ、これらの結果も踏まえてAIエージェントやフィジカルAIの開発・利用におけるセキュリティ確保に向けた技術調査・分析を行う。さらに、これに基づく国際的に整合が取れた各種分野におけるガイドの作成や検証ツールの開発を行うことで、最新のAIシステムの開発・利用による予期せぬAIリスクの抑制を図り、AIイノベーションの促進を図る。

1）米国・英国・カナダ・EU等が参画するAISI国際ネットワークを通じて、日本AISIが、AIエージェントやフィジカルAIを含む最新のAIシステムの開発・利用におけるセキュリティ確保に係る検討に参画し、最新の知見の共有や対策の方向性のすり合わせを行うことを支援する。／2）上記の結果も踏まえつつ、関係府省庁、国研・研究開発法人、大学等の機関や、地方自治体、民間企業等と協力しながら、様々な分野におけるAIエージェントが連動して動作するシステム、フィジカルAI等におけるセキュリティ確保のための技術調査・分析を実施する。／3）また、上記の調査結果等に基づき、各種産業分野等における最新のAIシステムの開発・利用に係るガイドの作成、及び当該ガイドに基づくAIシステムに係る安全性検証を行うためのツールを開発する。