チェック・ポイント・ソフトウェア・テクノロジーズ株式会社は7月14日、AIベースのセキュリティツールを標的としたプロンプトインジェクション攻撃マルウェアを発見したと発表した。

　Check Point Software Technologies Ltd.の脅威インテリジェンス部門であるCheck Point Research（CPR）は、AIベースのセキュリティツールを騙すために設計されたマルウェアの事例を初めて発見しており、発見されたマルウェアは、コードに自然言語のテキストを埋め込み、AIモデルに影響を及ぼしてマルウェアを良性と誤認させるように設計されていたという。


　CPRによると、発見された事例はマルウェアのコードを変更するのではなく、AIそのものを操作することで検知を回避しようとするもので、プロンプトインジェクションを通じてAIに「話しかけ」、ファイルが無害であるかのように認識を操作していた。

　回避の試みは成功しなかったが、CPRでは「AI回避」という新たな脅威のカテゴリーが出現したことを示すとし、今回の発見は、マルウェアの解析・検出ワークフローにおける生成AIの利用拡大に対し、攻撃者がどのように適応しているかを浮き彫りにするものとしている。

元の記事を読む

編集部おすすめ