NRIセキュアテクノロジーズ株式会社(NRIセキュア)は6月24日、Allganize Japan株式会社が提供するオールインワン生成AI・AIエージェント基盤「Alli LLM App Market」専用のAIセキュリティ対策支援サービスを同日から提供開始すると発表した。

 同サービスは、Alli LLM App Market向けに、既存の「AIセキュリティ診断サービス(AI Red Team)」と「AIセキュリティ監視サービス(AI Blue Team)」をカスタマイズし、システム構築時の「AIセキュリティ診断」と運用段階における「AIセキュリティ監視」として、提供する。


 「AIセキュリティ診断」では、Alli LLM App Marketの導入時に、生成AIに関するリスクに精通しているNRIセキュアの専門家が診断にあたり、AIシステム特有のセキュリティリスクを事前に特定し、安全な構築を支援する。構築段階の時点でセキュリティ対策をトータルで検討することで、LLM Ops(Large Language Model Operations)も含めたシステム全体の管理・運用コストの最適化を図る。

 「AIセキュリティ監視」では、AIシステムにNRIセキュアの「検知API」を連携することで、継続的なセキュリティ監視サービスを提供する。ユーザが入力した段階で攻撃を検知し、AIモデルで生成された出力内容を検証することで、ユーザによる不適切な入出力の検知とブロックも可能。

元の記事を読む

編集部おすすめ