2025年7月11日
AIセーフティ・インスティテュート
独立行政法人情報処理推進機構
プレス発表 AISI事業実証ワーキンググループ・ビジョンペーパーを公開しました
信頼とイノベーションが両立するAI社会の実現に向けて
AIセーフティ・インスティテュート（AISI、所長：村上明子）は、2025年７月10日、同年3月に設置された事業実証ワーキンググループ（WG）がまとめたビジョンペーパーを公開しました。本ペーパーでは、AIによる利便性と効率性の向上、不確実性と社会的リスクの増大が同時進行する状況において、社会や産業の持続的成長に不可欠なAIの利活用促進に向け、社会・産業・政策の各レベルにおける AI セーフティ評価に関する共通理解の醸成と具体的な実装への道筋を示しています。
労働力不足への対応などAIの導入に対する期待が高い中で、「信頼とイノベーションが両立するAI社会」の実現を目指します。
AISI事業実証ワーキンググループ・ビジョンペーパー 信頼とイノベーションが両立するAI社会の実現に向けて の公開
https://aisi.go.jp/output/output_information/250630/
■概要
生成AIを基盤とする応用技術の進展はAIの社会的役割やシステム内での位置づけに質的な変化をもたらしています。AIにより新たな便益がもたらされる一方で、社会的信頼を損なうリスク事象も数多く顕在化しています。そのため、AIの用途やリスク特性に応じたAIセーフティ評価フレームワーク（注釈）を整備することが急務となっています。
これらを実現するために、AISIは2025年3月にAIセーフティ評価に関するWG（事業実証WG）を、AISI運営委員会の下のテーマ別小委員会として設置し、民間事業者を中心に多様なステークホルダーが参画し、参画機関間の連携を図る場を提供、WG活動を推進しています。
事業実証WGのゴールは、産業界・行政・専門家が協働して、AIの社会実装におけるAIセーフティの確保を支える仕組みを構築し、利用者のリスク理解を前提としたAIセーフティ評価の枠組みを整備することです。
事業実証WGでは、ヘルスケアやロボティクスといった分野別のサブワーキンググループ（SWG）と、データ品質や適合性評価といった分野横断のサブワーキンググループ（SWG）を同時に進行させつつ、実務的なAIのユースケースに基づき、業界や利用者の立場に根差した実践的なAIセーフティ評価を体系化するとともに、具体的な評価シナリオやデータセットを構築する活動を進めています。
注釈 AIセーフティ評価フレームワークとは
AIシステムを開発・提供する際に、そのAIが安全に使えるかどうかを総合的に評価するための指針や基準。AIが予期せぬ誤動作をしたり、利用者や社会に悪影響を及ぼしたりしないように、「どのように安全性をチェックすればよいか」「どんなポイントに注意すべきか」など、開発者や提供者が参考にできる観点や評価方法をまとめたもの。
■AIセーフティ評価の枠組み
AI技術が目まぐるしく進化する中、AIモデル／システムをベースとするAIサービスによる高い利便性を享受できるようになる一方で、AIセーフティに関するリスクも常に変化しています。このため、AIセーフティ評価を通じて、リスクの把握を行い、リスクが受容可能なレベルを超えている場合、リスクの軽減策を実施するループを回すことが、信頼に足るAIとしてAI利活用の促進につなげるための有用なアプローチになると考えられます。（図1参照）
[画像1]https://digitalpr.jp/simg/2314/113793/700_206_20250710135702686f481e1c6b1.png
図1. AIセーフティ評価によるAI利活用促進
■サブワーキンググループ（SWG）の構成
各分野向けの検討を通じて実装に取り組む分野別（Vertical）SWG と、分野共通の評価手法を検討する分野横断（Horizontal）SWGによる体制を構築しています。
各SWGは、それぞれの役割を果たしつつ、相互補完・連携しながら進め、評価観点やツール整備を行います。（図2参照）
[画像2]https://digitalpr.jp/simg/2314/113793/700_387_20250710135702686f481e2a3e0.png
図２. 事業実証WGの体制イメージ（分野別（Vertical）SWGと分野横断（Horizontal）SWGを組み合わせた体制）
■今後の予定
今後、AIの利活用を促進するAIセーフティ評価の確立に向けて、段階的・継続的な取組みを実施する予定です。また、必要に応じてSWGの増設も計画いたします。
■本書の構成（目次）
0.本書の位置付け
1.はじめに
2.事業実証WGのビジョン
3.SWGのビジョン（ヘルスケアSWG、ロボティクスSWG、データ品質SWG、適合性評価SWG）
4.おわりに
5.参考文献
本書では、冒頭でAI技術の現状やリスクを概観し、国内外の政策・ガイドライン・国際標準の動向を整理しています。続いて、事業実証WGの実施体制を示し、ヘルスケア・ロボティクスの分野別SWGと、データ品質・適合性評価の分野横断SWG双方の取り組みとそのロードマップを説明し、またSWGごとに現状・リスク・評価の方向性・実証計画を整理しています。主な想定読者は、AI開発・提供事業者、AIの導入・利活用を行う企業・自治体等、政策担当者・認証機関等としています。
AI利活用は、社会課題の解決や産業の変革を支えるイノベーションの基盤として、その重要性が増しています。こうした動きが加速する中、AIを安全かつ信頼して導入・利活用するためには、リスクを適切に把握し、評価し、必要な策を講じる一連のプロセスを確立することが不可欠となります。
本書で示した取組みの方向性に基づいて、分野ごとのユースケースに即した実証や、分野横断的かつ国際的な整合性を意識した評価の枠組みの構築をすることにより、AIセーフティ評価の実効性が高まることを期待しています。
詳細は、AISI公式ウェブサイトをご覧ください。
AISI事業実証ワーキンググループ・ビジョンペーパー 信頼とイノベーションが両立するAI社会の実現に向けて の公開
https://aisi.go.jp/output/output_information/250630/
本件に関するお問い合わせ、またはSWGへの参加希望については、以下のお問い合わせ先までご連絡ください。
本件に関するお問合わせ先
■本件に関するお問い合わせ先
AIセーフティ・インスティテュート事務局 二村・加藤・田中舘
E-mail ： aisi-info@ipa.go.jp
■報道関係からのお問い合わせ先
IPA 戦略コミュニケーション部 戦略コミュニケーション室 渡邉・九嶋・藤田
TEL ： 03-5978-7503
お問い合わせフォーム
お問い合わせフォームは、外部サービス（PRオートメーション）を使用しています。
https://user.pr-automation.jp/pr-automation/coverage_request.php?key=i9_Y3MeJYe-YSe6gM34B0g%3D%3D
関連リンク
ＡＩセーフティ・インスティテュート （ＡＩＳＩ）
https://aisi.go.jp/
AISI事業実証ワーキンググループ・ビジョンペーパー ～信頼とイノベーションが両立するAI社会の実現に向けて～ の公開
https://aisi.go.jp/output/output_information/250630/
AIセーフティ・インスティテュート
独立行政法人情報処理推進機構
プレス発表 AISI事業実証ワーキンググループ・ビジョンペーパーを公開しました
信頼とイノベーションが両立するAI社会の実現に向けて
AIセーフティ・インスティテュート（AISI、所長：村上明子）は、2025年７月10日、同年3月に設置された事業実証ワーキンググループ（WG）がまとめたビジョンペーパーを公開しました。本ペーパーでは、AIによる利便性と効率性の向上、不確実性と社会的リスクの増大が同時進行する状況において、社会や産業の持続的成長に不可欠なAIの利活用促進に向け、社会・産業・政策の各レベルにおける AI セーフティ評価に関する共通理解の醸成と具体的な実装への道筋を示しています。
労働力不足への対応などAIの導入に対する期待が高い中で、「信頼とイノベーションが両立するAI社会」の実現を目指します。
AISI事業実証ワーキンググループ・ビジョンペーパー 信頼とイノベーションが両立するAI社会の実現に向けて の公開
https://aisi.go.jp/output/output_information/250630/
■概要
生成AIを基盤とする応用技術の進展はAIの社会的役割やシステム内での位置づけに質的な変化をもたらしています。AIにより新たな便益がもたらされる一方で、社会的信頼を損なうリスク事象も数多く顕在化しています。そのため、AIの用途やリスク特性に応じたAIセーフティ評価フレームワーク（注釈）を整備することが急務となっています。
これらを実現するために、AISIは2025年3月にAIセーフティ評価に関するWG（事業実証WG）を、AISI運営委員会の下のテーマ別小委員会として設置し、民間事業者を中心に多様なステークホルダーが参画し、参画機関間の連携を図る場を提供、WG活動を推進しています。
事業実証WGのゴールは、産業界・行政・専門家が協働して、AIの社会実装におけるAIセーフティの確保を支える仕組みを構築し、利用者のリスク理解を前提としたAIセーフティ評価の枠組みを整備することです。
事業実証WGでは、ヘルスケアやロボティクスといった分野別のサブワーキンググループ（SWG）と、データ品質や適合性評価といった分野横断のサブワーキンググループ（SWG）を同時に進行させつつ、実務的なAIのユースケースに基づき、業界や利用者の立場に根差した実践的なAIセーフティ評価を体系化するとともに、具体的な評価シナリオやデータセットを構築する活動を進めています。
注釈 AIセーフティ評価フレームワークとは
AIシステムを開発・提供する際に、そのAIが安全に使えるかどうかを総合的に評価するための指針や基準。AIが予期せぬ誤動作をしたり、利用者や社会に悪影響を及ぼしたりしないように、「どのように安全性をチェックすればよいか」「どんなポイントに注意すべきか」など、開発者や提供者が参考にできる観点や評価方法をまとめたもの。
■AIセーフティ評価の枠組み
AI技術が目まぐるしく進化する中、AIモデル／システムをベースとするAIサービスによる高い利便性を享受できるようになる一方で、AIセーフティに関するリスクも常に変化しています。このため、AIセーフティ評価を通じて、リスクの把握を行い、リスクが受容可能なレベルを超えている場合、リスクの軽減策を実施するループを回すことが、信頼に足るAIとしてAI利活用の促進につなげるための有用なアプローチになると考えられます。（図1参照）
[画像1]https://digitalpr.jp/simg/2314/113793/700_206_20250710135702686f481e1c6b1.png
図1. AIセーフティ評価によるAI利活用促進
■サブワーキンググループ（SWG）の構成
各分野向けの検討を通じて実装に取り組む分野別（Vertical）SWG と、分野共通の評価手法を検討する分野横断（Horizontal）SWGによる体制を構築しています。
分野別SWGには、国際的関心が高く日本が強みを持つ分野であり、AI利活用促進とAIセーフティ確保が重要な領域であるヘルスケアおよびロボティクス、分野横断SWGには、各分野のAIセーフティ評価に共通で求められるデータ品質・適合性評価のSWGを設定しています。
各SWGは、それぞれの役割を果たしつつ、相互補完・連携しながら進め、評価観点やツール整備を行います。（図2参照）
[画像2]https://digitalpr.jp/simg/2314/113793/700_387_20250710135702686f481e2a3e0.png
図２. 事業実証WGの体制イメージ（分野別（Vertical）SWGと分野横断（Horizontal）SWGを組み合わせた体制）
■今後の予定
今後、AIの利活用を促進するAIセーフティ評価の確立に向けて、段階的・継続的な取組みを実施する予定です。また、必要に応じてSWGの増設も計画いたします。
■本書の構成（目次）
0.本書の位置付け
1.はじめに
2.事業実証WGのビジョン
3.SWGのビジョン（ヘルスケアSWG、ロボティクスSWG、データ品質SWG、適合性評価SWG）
4.おわりに
5.参考文献
本書では、冒頭でAI技術の現状やリスクを概観し、国内外の政策・ガイドライン・国際標準の動向を整理しています。続いて、事業実証WGの実施体制を示し、ヘルスケア・ロボティクスの分野別SWGと、データ品質・適合性評価の分野横断SWG双方の取り組みとそのロードマップを説明し、またSWGごとに現状・リスク・評価の方向性・実証計画を整理しています。主な想定読者は、AI開発・提供事業者、AIの導入・利活用を行う企業・自治体等、政策担当者・認証機関等としています。
AI利活用は、社会課題の解決や産業の変革を支えるイノベーションの基盤として、その重要性が増しています。こうした動きが加速する中、AIを安全かつ信頼して導入・利活用するためには、リスクを適切に把握し、評価し、必要な策を講じる一連のプロセスを確立することが不可欠となります。
本書で示した取組みの方向性に基づいて、分野ごとのユースケースに即した実証や、分野横断的かつ国際的な整合性を意識した評価の枠組みの構築をすることにより、AIセーフティ評価の実効性が高まることを期待しています。
詳細は、AISI公式ウェブサイトをご覧ください。
AISI事業実証ワーキンググループ・ビジョンペーパー 信頼とイノベーションが両立するAI社会の実現に向けて の公開
https://aisi.go.jp/output/output_information/250630/
本件に関するお問い合わせ、またはSWGへの参加希望については、以下のお問い合わせ先までご連絡ください。
本件に関するお問合わせ先
■本件に関するお問い合わせ先
AIセーフティ・インスティテュート事務局 二村・加藤・田中舘
E-mail ： aisi-info@ipa.go.jp
■報道関係からのお問い合わせ先
IPA 戦略コミュニケーション部 戦略コミュニケーション室 渡邉・九嶋・藤田
TEL ： 03-5978-7503
お問い合わせフォーム
お問い合わせフォームは、外部サービス（PRオートメーション）を使用しています。
https://user.pr-automation.jp/pr-automation/coverage_request.php?key=i9_Y3MeJYe-YSe6gM34B0g%3D%3D
関連リンク
ＡＩセーフティ・インスティテュート （ＡＩＳＩ）
https://aisi.go.jp/
AISI事業実証ワーキンググループ・ビジョンペーパー ～信頼とイノベーションが両立するAI社会の実現に向けて～ の公開
https://aisi.go.jp/output/output_information/250630/
編集部おすすめ
