総務省は3月27日、「AIのセキュリティ確保のための技術的対策に係るガイドライン」を公表した。

　同省では2025年9月から、サイバーセキュリティタスクフォースの下でAIセキュリティ分科会を開催し、AIに不正な出力を行わせたり、AIを搭載するシステムの停止を生じさせたりする等のAIへの脅威に対して技術的対策の検討を行っており、同分科会の検討結果を踏まえて作成した「AIのセキュリティ確保のための技術的対策に係るガイドライン」（案）について、2025年12月26日から2026年1月29日までの間、意見募集を行っていた。


　同省では、提出された52件の意見を踏まえ、「AIのセキュリティ確保のための技術的対策に係るガイドライン」を策定し、提出された意見と同意見に対する同省の考え方を併せて公表している。

　同ガイドラインでは、攻撃の具体的な可能性が比較的高いと考えられるプロンプトインジェクション攻撃及びDoS攻撃（サービス拒否攻撃）への対策を主に示している。また、その他の脅威として、データポイズニング攻撃、細工をしたモデルの導入を通じた攻撃、モデル抽出攻撃を紹介している。

元の記事を読む

編集部おすすめ