EGセキュアソリューションズ、生成 AI や大規模言語モデル活用サービスの脆弱性診断「LLM脆弱性診断サービス」提供
比較表 画像（1枚）
　EGセキュアソリューションズ株式会社は9月17日、生成AIや大規模言語モデル（LLM）を活用したサービスに潜む脆弱性を専門的に診断する「LLM脆弱性診断サービス」の提供開始を発表した。

　同サービスでは、LLMを活用したチャットボットや業務支援ツールに潜むプロンプトインジェクション、機密情報の漏えい、不適切な出力生成（ハルシネーション）などのLLM特有の脅威に対し、OWASP Top 10 for LLM Applications 2025をベースに同社のナレッジを加えてセキュリティリスクを専門的に診断する。
主な診断項目は下記の通り。

・個人情報や機密情報の漏えい有無
・誤情報生成（ハルシネーション）の傾向評価
・システムプロンプト・学習データ由来情報の漏えいリスク
・プラグイン・外部連携機能の脆弱性検証

　同サービスの特徴は下記の通り。

1.LLMの特性を踏まえたリスク評価
単に一般的な脆弱性を洗い出すのではなく、LLMの構造や用途に応じて、システムごとの固有リスクまでを診断。

2.想定されるユースケースに応じた診断設計
利用されているLLMの運用形態や対話設計を考慮し、プロンプト構造や出力形式に即したリスク項目を抽出することで、より実態に即した検証を実施。

3.モデル固有の潜在リスクにも対応
対象となるLLMモデルの仕様や学習特性に基づき、標準的な攻撃手法だけでなく、特定モデルに依存する挙動や潜在的リスクまで網羅的に分析。

元の記事を読む

編集部おすすめ