日本プルーフポイント株式会社は3月17日、企業のAIエージェントを保護するインテント認識型AIセキュリティソリューション「Proofpoint AI Security」を発表した。

　プルーフポイントが2月に買収を公表したAcuvityの調査によると、組織の70％がAIガバナンスが十分に整備されておらず、50％が今後12ヶ月以内にAI関連のデータ損失が発生すると予測しており、エージェンティックAI環境の保護が喫緊の課題であることが明らかになっていた。


　同ソリューションでは、インテント認識型の検知モデルを適用することで、人またはエージェンティックAIが開始したAIの振る舞いが、元のリクエスト、定義されたポリシー、意図した目的と一致しているかを継続的に評価、AIとのやり取りの意味や意図、文脈まで含めた全体のコンテキストを分析し、コンプライアンス違反のコミュニケーションやデータ損失などの被害が生じる前に、不整合または高リスクのアクションをリアルタイムで検知する。

　同社では、企業が安全に AIを適切に管理できるよう、AIエージェントが整合性を保って動作するための要件を定義した包括的なガイド「Agent Integrity Framework」を併せて導入することで、初期の発見から実行時のポリシー適用に至るまでの導入を進めるための5段階の成熟度モデルを提供し、体系的なロードマップを提示する。

　同フレームワークは、Agent Integrityを、AIエージェントがあらゆるインタラクション、ツール呼び出し、データアクセスにおいて、意図した目的、認可された権限、期待される振る舞いの範囲内で動作していることが確保された状態と定義し、さらに、既存のセキュリティアーキテクチャを全面刷新することなくAIガバナンスを運用化できるよう、次の5つの柱（意図の整合性、アイデンティティとアトリビューション、挙動の一貫性、監査可能性、運用の透明性）を提示する。

　プルーフポイント サイバーセキュリティ戦略担当エグゼクティブバイスプレジデントのRyan Kalember氏は「人が業務システムを利用する際に整合性をもって行動することが求められるのと同様に、AIエージェントにも同一の基準が適用されなければなりません。Agent Integrityとは、あらゆるインタラクション、ツール呼び出し、データアクセスにわたり、AIエージェントが意図された目的、認可された権限、期待される振る舞いの範囲内で行動することを確保することを意味します。」とコメントしている。

元の記事を読む

編集部おすすめ