KELA株式会社は4月19日、生成AIセキュリティソリューション「AiFort」を同日から国内販売開始すると発表した。

　生成AIプラットフォームへの攻撃は、プロンプト（生成指示）の悪用によって機密情報を窃取する「プロンプトインジェクション」、巧妙な指示を与えて不適切（攻撃的・有害）なコンテンツを表示させる「ジェイルブレイク」、内部的に設定されたプロンプトなど知的財産を窃取する「プロンプトリーク」、もっともらしい誤情報を出力する「ハルシネーション」など、世界中で多くの犯罪事例が発生している。


　「AiFort」は、生成AI /大規模言語モデル（LLM）をセーフティ、セキュリティ、プライバシーの3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供する。開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援する。

　「AiFort suite」は下記3つの機能とサービスを提供するモジュールで構成されている。

1.AiFort Data： AIトレーニングデータセット
　生成AIモデルのトレーニングで利用する、脅威インテリジェンスに基づくデータセット。
　最新の脅威動向や犯罪技術などを反映した「AiFort Data」を利用して生成AIモデルに学習させることで、セキュリティを強化できる。

2.AiFort Red：レッドチームサービス
　AIモデルの脆弱性やセキュリティリスクがないか、信頼性と安全性を診断するための脅威インテリジェンスに基づくアドバーサリーエミュレーション（攻撃模倣プログラム）。
利用ユーザーが簡単な操作でテストプランを作成し、プランに基づいて「AiFort Red」が模擬攻撃を実行し、ユーザーは分析・診断結果をダッシュボードで把握できる。

3.AiFort Protect：プロンプトフィルタリング（2024年中に提供開始予定）
　悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏えい、ハッキングなどの不正行為を防ぐ。

　「AiFort Suite」は4月19日から、クラウド・オンプレミスで提供されモジュール単体年額は300万円から。

元の記事を読む