エージェントで“自律化”が進んだセキュリティ運用現場はどんな姿に？その時に人が果たす役割とは？

では、セキュリティ担当者（人）の役割はどうなるのか？

　AIエージェントによって、セキュリティ担当者は膨大な反復作業からは解放されることになるだろう。では、浮いた時間で何をすればよいのだろうか。すなわち、人間の仕事・役割はどうなっていくのだろうか。

　フラトゥチェロ氏は、「人間は『インシデント対応者』から『エージェント・オーケストレーター（統括者）』へと移行していくのが望ましい」と述べる。様々な役割を持つ複数のエージェントを統括・管理し、それらがマシン・スピードで脅威に対抗できるようになる環境を構築・維持するのが人間の新たな役割というわけだ。

　「マシンは、マシンが得意とすることに集中すべきです。つまりは運用、計算、分析、スピード実行です。そして人間は、それらから得られる成果を統治（ガバナンス）して管理することに専念してほしいのです」（フラトゥチェロ氏）

　ただし、「エージェントをどう統制するか」「エージェントを攻撃や悪用からどう守るか」といった課題も出てきている。いわゆるシャドーAIや、Security for AIなどのトレンドワードだ。AIエージェントは今や大手のベンダーだけでなく、様々なソフトウェア企業がこぞって提供し始めている。

　クラウドストライクはこうした不安に対しどう対応するのか。同氏は、2つの観点を話した。1つ目は「（AIと相互作用する）従業員」について。チャットボットやSaaSアプリケーションと対話する中で、従業員が許容外のチャネルに機密データを入力する可能性がある。これを同氏は「新たなデータ“流出”チャネル」と呼ぶ。組織の安全を確保するために、ここに可視化と保護が必要となった。

　2つ目は「AIモデル」そのものについて。モデルは単一の製品ではなく、複数の論理ドメイン（LDom）や異なるテクノロジーに存在している。そしてその一つひとつにデータやID（アイデンティティ）が存在し、安全に人とモデルが対話するための境界、セーフガードが設けられている。つまり、保護を必要とする膨大なレベルが存在するということだ。

　これに対しクラウドストライクは、Fal.Conにて「Falcon AI Detection and Response」を発表した。この中で、あらゆるエージェントとプロンプトを守るほか、数多にわたる相互作用の経路を管理・保護することを目指しているという。