NRIセキュア、AIエージェントシステムの潜在脅威を分析しセキュリティ対策の立案を支援

AIエージェント脅威モデリングサービス「AI Yellow Team」を提供開始NRIセキュアテクノロジーズ株式会社（以下、NRIセキュア）は、AIエージェント[i]システムを構築する企業向けに、設計段階で潜在脅威を洗い出し、対策案を提示するサービス「AI Yellow Team」（以下、本サービス）を本日から提供します。本サービスは国際的なガイドラインや最新の脅威動向、NRIセキュアのセキュリティ診断で培った独自ナレッジ等を踏まえたリスク分析により、システムの設計段階からのセキュリティ確保を支援します。NRIセキュアは、AIを活用したシステムを対象に、リリース前のセキュリティ診断を行うサービス「AI Red Team」[ii]と、リリース後のセキュリティ監視を行うサービス「AI Blue Team」[iii]を提供しています。本サービスは、システム開発の設計段階でセキュリティ対策を推進することを目的としており、各段階においてこれらのサービスを活用することで、より安全性の高いシステムの構築と運用を実現することができます（図を参照）。図：AIを活用したシステムの設計からリリース段階における、NRIセキュアの提供サービス[画像: https://prcdn.freetls.fastly.net/release_image/52432/182/52432-182-742687e33a1138c3db010bb1bbc276db-1230x708.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]※「セキュリティ実装レビュー」と「セキュリティアドバイス」は、AIを活用したシステムに限らず提供しているサービスです。◆AIエージェントを組み込んだシステムにおける潜在的な脅威近年、MCP（Model Context Protocol）[iv]への準拠によってAIモデルを外部データソースやツールと連携させることや、複数のAIエージェントを協調させることが進み、AIエージェントは企業の情報システムにおける中核機能として注目を集めています。一方で、AIエージェント特有の新たな脅威も顕在化しています。例えば、AIエージェントの自律的な実行能力が悪用され、AIエージェントが果たすべき目的が段階的に書き換えられる、あるいは正当な権限と機能を組み合わせた攻撃を受けるといったケースが考えられます。また、仮に問題が発覚し改修や再検証が必要となった場合、その手戻りや追加コストは、従来システムの場合に比べて大きく上回る可能性もあります。そのため、AIエージェントを利用したシステムにおいては、設計段階から多層的な脅威を体系的に可視化し、対策を立案し実行するシフトレフト[v]の考え方が、従来のシステム以上に重要となります。◆本サービスの概要と特長本サービスは、AIエージェントシステムを設計する段階において、NRIセキュアの専門家が以下の4つのステップに沿って、システム開発・運用段階で発生する可能性のある脅威を洗い出して分析し、セキュリティ対策の妥当性を評価し適切な対策を提案するものです。ステップ1.ヒアリング：設計書を元に、システムアーキテクチャ、仕様をNRIセキュアの専門家がヒアリングします。ステップ2.可視化：外部システムとの結合を含めた、各機能における脅威分析用のアーキテクチャとデータフロー図を作成します。ステップ3.脅威分析：作成したアーキテクチャとデータフロー図を元に、システムに対する潜在的な脅威を洗い出します。脅威の埋め込みから発動までのシナリオを検討し、想定されるリスクを分析します。ステップ4.セキュリティ対策の提示：洗い出された脅威に対する具体的な対策を「セキュリティ要件一覧」として提示します。本サービスの主な特長は、以下の2点です。１．AIエージェントを組み込んだシステムに対する新たな脅威に対応「OWASP Top10 for LLM」[vi]や「Agentic AI - Threats and Mitigations」[vii]といった国際的なガイドラインを基に、最新動向やNRIセキュアのAIセキュリティに関する知見も融合して、最新の攻撃シナリオにも対応します。２．開発者が潜在脅威を把握し、優先度の高いセキュリティ対策の検討が容易に成果物には潜在的な脅威が一覧化されており、脅威ごとにリスクがどこで発生し、どのように顕在化するかまでの経過や、具体的な対策としてのセキュリティ要件がまとめられています。そのため、開発者が潜在的な脅威を十分に把握したうえで、開発段階から優先して実行すべきセキュリティ対策を検討することができます。また成果物は、経営層などにリスク評価の結果や対策方針を説明し社内理解を得る際にも役立ちます。本サービスの詳細については、次のWebサイトをご参照ください。https://www.nri-secure.co.jp/consulting/ai-yellow-teamNRIセキュアは今後も、企業・組織の情報セキュリティ対策を支援するさまざまな製品・サービスを提供し、安全・安心な情報システム環境と社会の実現に貢献していきます。[i] AIエージェント：与えられた目的を解釈し、外部／社内ツールを選択・連携させながら、自律的に目標を達成するソフトウェア。[ii] 「AI Red Team」の詳細は次のWebサイトをご覧ください。https://www.nri-secure.co.jp/service/assessment/ai-red-team[iii] 「AI Blue Team」の詳細は次のWebサイトをご覧ください。https://www.nri-secure.co.jp/service/solution/ai-blue-team[iv] MCP（Model Context Protocol)：LLMと外部データソースやツールを標準化された方法で接続するためのオープンプロトコル。[v] シフトレフト：システム開発の工程「企画、要件定義、設計、実装、テスト、リリース」において、上流でセキュリティ対策を組み込むという考え方。具体的には、設計工程でセキュリティを考慮した設計を行うことや、実装工程でセキュリティテストの自動化・内製化を行うことなどがあります。[vi] OWASP Top10 for LLM：世界的なコミュニティである「Open Web Application Security Project（OWASP）」によって作成された、大規模言語モデル（LLM）固有の10大セキュリティリスクをまとめた文書。詳細は、次のWebサイトをご参照ください。https://owasp.org/www-project-top-10-for-large-language-model-applications/[vii] Agentic AI - Threats and Mitigations：世界的なコミュニティである「Open Web Application Security Project（OWASP）」によって作成された、AIエージェントを利用したシステムの脅威とその緩和策をまとめた文書。詳細は、次のWebサイトをご参照ください。https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/企業プレスリリース詳細へ : https://prtimes.jp/main/html/rd/p/000000182.000052432.htmlPR TIMESトップへ : https://prtimes.jp