PwCコンサルティング、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」によるサービスを開始

2024年9月19日PwCコンサルティング合同会社PwCコンサルティング、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」によるサービスを開始疑似的なサイバー攻撃で脆弱性を予見、インシデントを未然に防ぐPwCコンサルティング合同会社（東京都千代田区、代表執行役CEO： 安井 正樹、以下「PwCコンサルティング」）は本日から、当社のAIセキュリティに精通したエンジニアがクライアント企業のAIサービスに対して疑似攻撃を行うことで、その脆弱性や想定される脅威、生じ得るビジネスリスクを特定し、改善に向けて支援する「AIレッドチーム」によるサービス（以下、本サービス）を開始します。これにより、企業はAIを利用したサービスを正式に始める前に、想定されるリスクを予見することができるとともに十分な対策を講じることで、インシデントを未然に防ぐことが可能となります。生成AIの普及に伴い、ビジネスにおけるAI活用の機運が高まっています。企業は、AIを利用した新たなサービスを開発したり提供したりする一方で、AI特有のリスクに直面しています。AIは従来のITサービスとは異なり確率的プロセスに基づいて動作するため、誤った情報の提示や不適切なコンテンツの生成など、想定外の結果を招く恐れがあります。また、そのリスク領域は「技術リスク」のみならず、「倫理リスク」、「法律リスク」と広範に及びます。経済開発協力機構（OECD）が公開している「OECD AI Incidents Monitor」によると、2023年2月頃からAIサービスに関連するインシデントが急増しており、それまで1カ月あたり100件に満たなかったのが2024年2月には800件を超えたことが報告されています。こうした状況を受けて、国際的にAIの信頼に関する議論が活発に行われ、さまざまな規制やガイドラインなどの整備が進んでいます。2023年12月に公開された広島AIプロセスの成果文書「全てのAI関係者向けの広島プロセス国際指針」および「高度なAIシステムを開発する組織向けの広島プロセス国際行動規範」では、「AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、高度な AI システムの開発全体を通じて、その導入前及び市場投入前も含め、適切な措置を講じる」という原則が示されており、その行動を遵守する具体的な取り組みの一つとして、レッドチームが提唱されています。レッドチームとは一般に、サイバー攻撃者の立場で実際に想定される攻撃を疑似的に行うことで、セキュリティ対策の有効性を確認する組織を指し、リスクベースのアプローチによるセキュリティ対策の手法の一つとして注目されています。■サービス概要本サービスは、AIを利用したサービスに対してリスク起因者（サイバー攻撃者、犯罪者、愉快犯など）の観点から疑似攻撃を行うことで、脆弱性とそれに伴うビジネスリスクを特定し、その改善のためのアドバイスを提供します。企業が、自社のAIサービスの正式リリース前や運用中に本サービスを利用することで、実際にインシデントが発生する前にビジネスリスクを把握し、能動的に対策を講じることが可能となります。 PwCコンサルティングは、AI脅威やAIのユースケースに関する豊富な知見を強みとしています。加えて、AIセキュリティに精通したエンジニアとコンサルタントが一体となって対応するチーム体制により、疑似攻撃の実施にとどまらず、現状把握、脅威分析から対策定義までを支援します。【提供開始日】2024年9月19日【対象者】AIを利用したサービスを開発または提供する事業者【特長】①AIの不正利用に伴うビジネスリスクを特定攻撃や悪用といったAIの不正利用に伴って考慮すべきリスクの種類とインパクトは、そのビジネスユースケースに大きく依存します。本サービスでは、テスト対象となるAIを用いたサービスのビジネスケースを分析したうえで、想定されるリスクおよびリスクシナリオを洗い出し、当該シナリオに沿ったテストを設計します。これにより発見された課題がどのようなビジネスリスクに影響するかを特定します。②独自リサーチおよびAIセキュリティに精通したエンジニアによるテストの実施AIセキュリティに精通したエンジニアが、サイバーセキュリティ分野において権威ある研究機関や団体が公開するフレームワークやレポートなどのベストプラクティス（業界標準）や、日々発見・報告される新たな攻撃手法のリサーチ結果に基づいて、最新の脅威を模したテストを実施します。③サービス設計、実装、運用にわたる改善のアドバイスを提供検出された課題に対して、各種ベストプラクティスとの紐づけを行い、AIモデル構築や精度評価といったデータサイエンスに長けた専門チームと連携し、改善に向けたアドバイスを提供します。入出力のフィルタといった実装レベルのアドバイスだけでなく、MLOps（Machine Learning Operations）の改善・高度化、AIガバナンスの整備・改善といったサービス設計・運用まで広範なアドバイスを提供します。[画像1]https://digitalpr.jp/simg/1803/95200/700_468_2024091815162366ea7037737e8.jpg詳細は、こちら（https://www.pwc.com/jp/ja/services/consulting/analytics/responsible-ai/ai-red-team.html）を参照ください。【関連情報】AIサービスのリスクとAIレッドチームhttps://www.pwc.com/jp/ja/knowledge/column/awareness-cyber-security/ai-red-team.html以上PwCコンサルティング合同会社について：https://www.pwc.com/jp/consultingPwCコンサルティング合同会社は、経営戦略の策定から実行まで総合的なコンサルティングサービスを提供しています。PwCグローバルネットワークと連携しながら、クライアントが直面する複雑で困難な経営課題の解決に取り組み、グローバル市場で競争力を高めることを支援します。 PwC Japanグループについて：https://www.pwc.com/jpPwC Japanグループは、日本におけるPwCグローバルネットワークのメンバーファームおよびそれらの関連会社の総称です。各法人は独立した別法人として事業を行っています。複雑化・多様化する企業の経営課題に対し、PwC Japanグループでは、監査およびブローダーアシュアランスサービス、コンサルティング、ディールアドバイザリー、税務、そして法務における卓越した専門性を結集し、それらを有機的に協働させる体制を整えています。また、公認会計士、税理士、弁護士、その他専門スタッフ約12,700人を擁するプロフェッショナル・サービス・ネットワークとして、クライアントニーズにより的確に対応したサービスの提供に努めています。(c) 2024 PwC. All rights reserved.PwC refers to the PwC network member firms and/or their specified subsidiaries in Japan, and may sometimes refer to the PwC network. Each of such firms and subsidiaries is a separate legal entity. Please see www.pwc.com/structure for further details.