KnowBe4、AIエージェントのリスクを管理する「Agent Risk Manager」発表

　KnowBe4は、自律型AIエージェントの行動を保護・監視・管理する「Agent Risk Manager」を発表した。グローバルに提供する新製品で、日本市場では2027年度の提供開始を目指すという。

　同製品は、同社が培ってきた人的行動分析のアプローチを応用し、AIの振る舞いを可視化・分析・評価。プロンプトインジェクションやデータ漏洩などの脅威をリアルタイムで検知・ブロックする。また、リスクのある操作を行った従業員に対して、何が起き、なぜ問題なのかをその場でコーチングするとのことだ。「KnowBe4プラットフォーム」の中核として、人間とAIのワークフォースのリスクの定量化・最小化を支援するとしている。

　主な機能は3つ。「可視化・検出（Discover）」では、ブラウザ拡張機能と主要AIプラットフォームとのAPI連携により、社内のシャドーAIやAIエージェントの利用状況を検出し、インベントリ化する。「統制・制御（Govern）」では、検出したリスクに基づいてセキュリティポリシーを策定・適用する。ブラウザ拡張機能を経由し、AIアクセス先に対して「許可」「警告」「ブロック」の制御を行う。私的アカウントや未承認ツールを利用している場合は、承認済みの代替ツールへユーザーを誘導できる。「コーチング（Coach）」では、リスクのあるAI操作を検知すると、問題の内容と理由を従業員にリアルタイムで通知・解説する。ブラウザ上での警告に加え、同社の「Real-Time Coaching」と連動し、Slack、Microsoft Teams、Google Chat経由でもフィードバックする。

　脅威防御では、OWASP基準の4つのAI脅威を検知する。対象は、プロンプトインジェクション、機密情報・個人情報（PII）の漏洩、過剰な自律権限（権限昇格など）、無制限のリソース消費である。機密データは25のカテゴリを識別し、自動でマスキングする。

　Microsoft Copilot、Anthropic Claude、Google Gemini Enterprise、OpenAI ChatGPT Enterpriseと直接連携し、ブラウザ内外のAIアクティビティを把握する。エンドポイントへの専用ソフトウェアのインストールは不要である。Chrome/Edgeのブラウザ拡張機能とAPI連携により、導入初日から利用状況を可視化できる。AIリスクは同社のリスクスコアに統合され、人的リスクとAIリスクをKnowBe4プラットフォーム上で一元的に可視化・測定できる。

【関連記事】
・AIエージェントの利用拡大も、従業員のセキュリティリスク理解度は30％に留まる──KnowBe4調査
・ソブリンコラボレーションツールのMattermost、データセキュリティとAIエージェント対応を強化
・Okta、パートナー施策を刷新──AIエージェントのセキュリティ市場も取り込んだ新プログラムを2027年に開始