AIセキュリティスタートアップSherLOCK 生成AI特有の脆弱性をテストするための国際共同レッドチーミングテストの成果を2025年人工知能学会全国大会にて発表

SherLOCK株式会社は、生成AI特有の脆弱性をテストするための国際共同レッドチーミングテストの成果を2025年人工知能学会全国大会にて発表致します。[画像1: https://prcdn.freetls.fastly.net/release_image/145146/15/145146-15-28ac123d9523bc55c3c9cbe6948a4428-3900x2600.jpg?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]AIセキュリティスタートアップSherLOCK株式会社は、この度、日本のAI安全性研究の中核を担うAIセーフティ・インスティテュート（Japan AISI）および国立情報学研究所（NII）と連携し、AISI Global Networkが推進する国際的なAIレッドチーミングテスト「International Network of AI Safety Institutes Joint Testing Exercise」に技術支援を実施致しました。その結果を2025年人工知能学会全国大会にて発表予定となります。AIセキュリティスタートアップSherLOCK株式会社（本社：東京都港区、代表取締役：築地テレサ）は、AIセキュリティ領域の専門性を下に、AIの安全な社会実装とAIセキュリティ研究の最前線において、国際的な取り組みへの貢献やパブリックセクターへの貢献をさらに拡大しています。その一つとして、日本のAI安全性研究の中核を担うAIセーフティ・インスティテュート（Japan AISI）および国立情報学研究所（NII）と連携し、AISI Global Networkが推進する国際的なAIレッドチーミングテスト「International Network of AI Safety Institutes Joint Testing Exercise」に参加および技術支援を実施致しました。その結果を2025年人工知能学会全国大会にて発表予定であることをご報告させて頂きます。AI技術の急速な進化と普及は、産業、医療、行政、教育など多岐にわたる分野で新たな可能性を切り拓いています。しかし、その一方で、AIの安全性に関するインシデントが増加するなどAIリスクへの関心も高まっており、技術の発展と安全性確保のバランスが喫緊の課題となっています。特に生成AIの登場により、ハルシネーション（AIが事実に基づかない情報を生成すること）や企業や組織の機密情報漏洩、生成AI特有の脆弱性をついたプロンプトインジェクションやジェイルブレイク等の攻撃が日々増加する等、新たなAIリスクが顕在化しています。このような状況において、安全で信頼できるAIの開発と運用を支援するため、AISI Global NetworkはAIの安全性に関する取り組みを強化しています。AIにおける「安全・安心」とは、単にリスクがないことだけでなく、人々が心理的に脅威を感じることなく信頼できる状態を指します。AIの安全性確保には、技術的な側面だけでなく、規制、倫理、国際協力が不可欠であり、開発者、政策立案者、産業界、研究機関の連携が求められています。SherLOCK株式会社は、AIセキュリティの専門企業として、AIシステムの潜在的な脆弱性や悪用リスクを事前に特定・評価するためのAIレッドチーミングテスト実施や、企業が生成AIを活用する際に活用するガードレールツールの開発・提供に注力しております。今回のJapan AISIおよびNIIとの国際的なJoint Testingへの参加は、それらの取り組みをもとに実施したものです。本共同テストでは、特に、シンガポールAISIとJapan AISIが共同リードを務めた「AISI国際ネットワーク会合・技術トラック」のトラック2において、基盤モデルの安全性評価を実施し、各国が実施したAI安全性に関する技術的な成果を持ち寄り、活発な意見交換を行いました。この成果は、国際的なAI安全性に関する技術的理解の促進や今後の社会実装に貢献するものです。【AIセキュリティのリーディングカンパニーとしての未来へのコミットメント】SherLOCK株式会社は、AI技術の進化がもたらす新たな可能性を最大限に引き出しつつ、同時にその潜在的なリスクを最小限に抑えるための最先端のAIセキュリティソリューションを提供し続けることを使命としています。私たちは、単なる技術提供にとどまらず、今後更なる社会実装を進めるために、国内外の様々なステークホルダーとの連携を深め、政府機関、研究機関、業界団体、そして他企業との継続的な協力関係を築くことで、AIセキュリティに関する知見の共有、共通課題への対処、そして新たな標準の策定に積極的に貢献して参ります。また、国際的なベストプラクティスを深く理解し、その実践を企業に共有することを通じて、日本企業や組織におけるお客様が直面する複雑なAIセキュリティ課題に対し、信頼性の高い専門知識と実用的なソリューションを提供して参ります。SherLOCK株式会社は、今後もAIレッドチーミングテストと生成AI向けガードレールツール開発・提供に関わる専門性を核としながら、企業や組織の生成AI活用に伴う業務効率化・生産性向上、新たな付加価値創出を推進し、セキュアな生成AI活用を同時に実現して参ります。また、ROIを意識した生成AI活用ユースケース選定および生成AI活用戦略立案、AIシステムの設計段階から運用、そして継続的なリスクの監視に至るまで、包括的なAI活用とAIセキュリティソリューションサービスを提供して参ります。これらの取り組みにより、お客様のAIプロジェクトにおける信頼性向上、リスク低減、そしてレジリエンス強化に貢献し、最終的には社会全体のAIへの信頼構築に寄与して参ります。【概要：AISI国際ネットワークにおける共同テスト演習について】AI技術の急速な発展に伴い、そのリスク管理の重要性が高まっています。国際的な議論を活性化し共通理解を促進するため、米国の呼びかけでAISI国際ネットワークが発足しました。AISI国際ネットワークの技術トラックの一つでは、多言語対応（Multilingual）とサイバーセキュリティ（Cybersecurity）を主なテーマとし、各国AISIと技術的な議論を深めています。11月に第一回国際AISIネットワーク会合となるサンフランシスコ会議が開催され、2025年2月のフランスAIアクションサミットに合わせて第二回会合が開催されました。【関連URL】なお、本取り組みで得られた詳細な研究成果は、以下の人工知能学会全国大会での発表にてご確認いただけます。また、Japan AISIの国際連携に関する公式発表およびシンガポールAISIのAI安全性国際ネットワークの共同テスト演習報告書もご参照ください。 - 2025年度 人工知能学会全国大会（第39回）/AISI国際ネットワークにおける共同テスト演習について：https://confit.atlas.jp/guide/event/jsai2025/subject/3F5-OS-42b-02/advanced?cryptoId=- Japan AISI 国際連携の取り組み： https://aisi.go.jp/effort/effort_international/250211/ - International Network of AI Safety Institutes Joint Testing Exercise報告書： https://sgaisi.sg/publication/data/International-Network-of-AI-Safety-Institutes-Joint-Testing-Exercise-Improving-Methodologies-for-AI-Model-Evaluations-Across-Global-Languages.pdf[画像2: https://prcdn.freetls.fastly.net/release_image/145146/15/145146-15-887ad36115681a2f5665f66ec3734b2a-803x641.png?width=536&amp;quality=85%2C75&amp;format=jpeg&amp;auto=webp&amp;fit=bounds&amp;bg-color=fff ]AIセキュリティスタートアップSherLOCK株式会社■ 【会社概要】会社名：SherLOCK株式会社 (SherLOCK, Inc.)代表者：代表取締役CEO 築地テレサ設立日：2024年01月所在地：〒105-0001 東京都港区虎ノ門五丁目 9 番 1麻布台ヒルズ ガーデンプラザB 5階TOKYO VENTURE CAPlTAL HUB内事業内容：AIセキュリティソリューションの開発・販売・提供URL：https://shlck.com/■ 【お問い合わせ先】SherLOCKの詳細情報や製品デモについては、以下の広報担当連絡先までお問い合わせください。SherLOCK Webサイト：https://shlck.com/SherLOCK Noteサイト：https://note.com/sherlock_aiお問い合わせ / お客様サポート窓口：SherLOCKへのお問い合わせフォーム：SherLOCKお問い合わせメール：contact@shlck.com以上企業プレスリリース詳細へ : https://prtimes.jp/main/html/rd/p/000000015.000145146.htmlPR TIMESトップへ : https://prtimes.jp