富士通は、AIサービス「Fujitsu Kozuchi」のコア技術として、脆弱性を悪用する攻撃や生成AIへの攻撃といった新たな脅威へのプロアクティブなセキュリティ対策を支援するマルチAIエージェントセキュリティ技術を開発した。
同技術は、組織や拠点をまたぐ複数のAIエージェントを透過的に連携できるマルチAIエージェント連携技術、プロアクティブなセキュリティ対策に必要なAIエージェントを実現するセキュリティAIエージェント技術、生成AIのセキュリティ耐性について自動で網羅性高く確認を行い、攻撃を自動的に防御・緩和する生成AIセキュリティ強化技術の3つの技術で構成されているという。
同社は、まず生成AIセキュリティ強化技術に関して、Cohere Inc.とのパートナーシップを通じて、2024年12月より技術実証を開始。加えて、マルチAIエージェント連携技術の一部をオープンソースのAIエージェント基盤である「OpenHands」から2025年1月に公開し、その後、2025年3月より、セキュリティAIエージェント技術、生成AIセキュリティ強化技術を含むマルチAIエージェントセキュリティ技術のトライアル提供を開始するという。
マルチAIエージェントセキュリティ技術により、セキュリティの専門家ではないITシステム管理者や運用担当者が、プロアクティブなセキュリティ対策を実現するアプリケーションを構築できるようになり、今後、急速な普及が見込まれる生成AIの企業ITシステムでの活用においても、生成AIの効果を享受しながら、安心・安全にITシステム運用を行うことが可能になるとしている。
マルチAIエージェントセキュリティ技術の全体像
［画像クリックで拡大］
マルチAIエージェントセキュリティ技術を構成する3つの技術
①マルチAIエージェント連携技術
組織や拠点ごとに開発されたAIエージェントを、透過的に協働させるマルチAIエージェント連携技術を開発。同技術は、セキュリティ用途だけでなく汎用的に利用可能だという。AIエージェント同士を協働させる場合、組織や拠点のポリシーを遵守した上でのデータ秘匿やプライバシー保護が課題になるとしている。これらの課題を解決するため、協働におけるポリシーを自律的に制御して接続するセキュアエージェントゲートウェイを組織や拠点ごとのAIエージェント基盤に導入することで、AIエージェント開発者が意識することなく、AIエージェントを連携させることが可能になったという。
②セキュリティAIエージェント技術
プロアクティブなセキュリティ対策に必要な基本的なセキュリティAIエージェントとして、次の3つのAIエージェントを開発。Ben-Gurion University of the Negev（以下、ベングリオン大学）と共同開発した技術を、それぞれのAIエージェントに搭載しているという。
- 攻撃AIエージェント：新たな脆弱性を有する対象ITシステムを侵害しうる攻撃シナリオを作成する技術「TTP（Tactics, Techniques, and Procedures）類推エンジン」を搭載
- 防御AIエージェント：企業のリスクプロファイルに基づいた防御策を提案する技術を搭載
- テストAIエージェント：本番環境システムから検証用仮想環境「サイバーツイン」を自動構築し防御策の影響を分析する技術を搭載
これらのAIエージェントを、マルチAIエージェント連携技術で連携させることで、テストAIエージェントに構築されたサイバーツイン上で攻撃AIエージェントと防御AIエージェントによる攻撃・防御シミュレーションが交互に行われ、新たな脆弱性へのプロアクティブな対策を行うという。これにより、企業や公共団体は新たな脆弱性を悪用する攻撃に対し、より効果的な防御策を講じられるとしている。このように、異なるスキルを持つAIエージェント間の共創的、敵対的学習で、複雑で未知な問題に対処する共創学習が当社のAIエージェントの特徴だという。
3つのセキュリティAIエージェント連携例
［画像クリックで拡大］
③生成AIセキュリティ強化技術
急速に普及する生成AIへの新しい攻撃に備えるため、セキュリティ耐性について自動で網羅性高く確認を行うLLM脆弱性スキャナーと、攻撃を自動的に防御・緩和できるLLMガードレールを、ベングリオン大学と共同開発。LLM脆弱性スキャナーは、生成AIに存在しうることが知られている様々な脆弱性について、3,500以上の脆弱性に対応しているという。
LLM脆弱性スキャナーには、生成コード脆弱性チェック機能や、LLMの応答にあわせて最適な攻撃プロンプトを選択し高精度な攻撃・評価を実現するアダプティブ・プロンプト技術、生成AIを活用した脆弱性説明技術が含まれており、セキュリティ専門家でなくとも容易に脆弱性評価を行えるとしている。
LLMガードレールは、LLM脆弱性スキャナーと連携し、脆弱性と判定されて対処が必要な攻撃的なプロンプトをITシステム運用中に検知し拒絶する機能であるガード規則を自動的に適用して不適切な回答を防ぐことで、生成AIの安心・安全な運用を実現。LLM脆弱性スキャナーとLLMガードレールは、それぞれ攻撃AIエージェント、防御AIエージェントと連携して動作することで、生成AI活用システムへのプロアクティブなセキュリティ対策を実現するとしている。
生成AIセキュリティ強化技術
［画像クリックで拡大］
【関連記事】
・三菱電機エンジニアリング、SAP S/4HANAバージョンアップに向け課題を分析 富士通が支援
・フォーティネット、生成AIでセキュリティオペレーションを簡素化、FortiAIを新たに2製品に統合
・NTTデータ、2024年のサイバーセキュリティ動向を発表：マルチエージェントAI攻撃も台頭の兆し
