NRIセキュア、従来ツールでは困難な「AIエージェントシステム」の内部脅威検出サービスを提供開始

　NRIセキュアテクノロジーズ（以下、NRIセキュア）は、AIエージェントシステムの内部状態を可視化し、従来手法では検出困難だった脅威を検出するセキュリティ診断サービス「深層型AI Red Team」の提供を開始した。

　同サービスでは、独自開発したツール「ai-guard（エーアイガード）」を使って、AIエージェント内部に潜む脅威を可視化するという。また、専門家による知見とAI技術を組み合わせることで、より高度な脅威の検出を可能にしたとのことだ。

　従来のAIセキュリティ診断や診断自動化ツールは、チャット画面など外部インターフェースを中心に検証してきたというが、AIエージェントでは内部動作や相互作用に起因する脅威が確認されているという。NRIセキュアの分析によれば、OWASPが定義するAIエージェントの15の脅威のうち、11項目（73％）は従来のアプローチでは検出困難であることが明らかになったとのことだ。

「深層型AI Red Team」の概要と特徴

　従来の手法では検出困難な脅威に対応するため、同社は内部状態を可視化して診断するアプローチを開発。AIエージェントの自律的な実行能力の悪用や、AIエージェントが果たすべき目的の改変、正当な権限と機能を組み合わせた攻撃など、外部からの観察が困難なケースを想定した診断にも対応可能だという。これにより、AIエージェントシステムの安全性向上が期待できるとしている。主な特徴は以下の2点。

1. 独自ツールによる内部状態の可視化

　独自開発したツール「ai-guard」により、マルチエージェント環境を含む内部動作（メモリやエージェント相互作用など）を、顧客のプログラムを変更することなくリアルタイムで分析。AIエージェントの推論プロセス、メモリ状態の変化、エージェント間通信などを包括的に可視化することで、OWASPが定義する15項目の脅威すべてに対応可能とのことだ。

2. 専門家とAIのハイブリッドアプローチ

　NRIセキュアの専門家が、可視化された内部状態を観察しながら、従来の診断や標準的なソリューションでは検出困難な攻撃シナリオを立案し診断。これにAIを活用した効率的な自動検出を組み合わせることで、品質と効率性を両立した診断を実現すると述べている。

【関連記事】
・シスコとNRI・NRIセキュアが協業　セキュリティアーキテクチャの共同設計とサービスの共創開発へ
・NRIセキュア、“セキュリティ担当者にやさしい”ASMソリューション「ASMimosa」を提供開始
・NRIセキュア、情報システム監査などの国際資格「CISA」の学習サービス（日本語）を提供へ