EYSC、攻撃者視点で生成AIのサイバーリスクを評価する新サービス発表

　EYストラテジー・アンド・コンサルティング（EYSC）は5月14日、攻撃者視点で生成AIのセキュリティリスクを把握・評価する新サービス「エンドツーエンドAIレッドチーミング」の提供開始を発表した。

　同サービスでは、生成AIやLLMを組み込んだアプリケーションを対象に、ユーザー入力から生成AIによる出力にいたる一連の挙動を俯瞰的に分析。そのうえで、実際に起こり得る攻撃や悪用のシナリオを想定した検証を通じて、従来の診断手法では把握しづらかった生成AI特有のリスクとその想定される影響の把握・評価を支援するとしている。

　同日開催の記者向け説明会に登壇した同社 サイバーセキュリティユニット アソシエートパートナーの佐藤拓也氏は、多くの企業が「自社のAIアプリケーションが安心して使える状態にあるか」という問いに対し、明確な回答を持てていない現状を指摘。その背景には、生成AI特有のリスクが、従来のサイバーセキュリティ対策の延長線上では捉えきれないという課題があるとした。「従来のシステムでは専門的な知識が必要だったが、生成AIでは自然言語そのものが攻撃のインターフェースとなる。脆弱性が存在しなくても、巧妙なプロンプトによってシステムが操作されてしまう危険性がある」と警鐘を鳴らす。

　今回発表されたエンドツーエンドAIレッドチーミングは、アプリケーションの挙動を攻撃者の視点で俯瞰的に検証できる点が大きな特徴だという。同社はこのサービスを通じて、グローバル共通のフレームワークであるOWASPやMITRE ATLAS、NIST AI RMFに基づいた多層的な評価を実施。特に、生成AIの確率的な性質を考慮し、同じ入力に対して複数回のテストを行うことで再現性の高いデータを特定し、理論上の指摘にとどまらない現実的な悪用可能性を検証するとしている。

【関連記事】
・EYストラテジー・アンド・コンサルティング、セキュリティ管理業務設計を生成AIで支援するサービス開始
・EYストラテジー・アンド・コンサルティング、IT・デジタル投資のマネジメント支援サービスを提供開始
・2026年は「エージェンティックWeb」が発展──EYストラテジー・アンド・コンサルティングが示唆