AIエージェント時代のセキュリティに果たして正解はあるのか？ 1年半以内に起こる“とある問題”とは

メールは配送速度が大切、大規模・複雑なAIモデルの適用は困難だが……

　第一の柱である脅威検知技術について、CTOのマイケル・フレンド氏はProofpointの従来のアプローチに変化が起こったことを説明した。

　「（メールを起点とした攻撃を例に挙げると）従来の脅威検知アプローチは、シンプルですが『常に受信メールの様々な側面を見る』というものでした。様々なレベルの検知機能を用意し、悪いものを可能な限り排除しながら、より複雑な検知機能へと段階的に進んでいく“ファネル（漏斗）”のようなプロセスです。しかし、ChatGPTの登場を契機とした生成AIの普及によって、これが大きく変わりました。同じメールからより多くの詳細を一気に理解・検知し、初期検知の段階でより効果的な防御を可能にする技術セットが実現したのです」（フレンド氏）

　そこで現在、同社もコンテキストモデルやセンチメントモデルなど、複数のAIモデルを検知に活用している。だが、「同時に制約もある」とフレンド氏。それは、メールの配送遅延を最小限に抑えなければいけないという制約だ。

　この制約下では、すべてのメールに大規模で複雑なAIモデルを適用することはできない。処理時間とコストの両面で問題となるからだ。そこで同社は、検知の段階に応じて、用途特化型の効率的なモデル群を戦略的に配置するアプローチを採用している。

“年間33兆”のURL分析が詰まったデータベースを武器に

　さらに、モデルの継続学習にも取り組んでいる。ラップ氏は「Proofpointは、一次脅威インテリジェンスに多くの努力とリソースを投資し、脅威の状況を常に調査する大規模なチームを有している」と述べる。この活動で得られた知見が機械学習の訓練ループに供給され、システムを運用する際により多くのデータを提供する。そして再び新しい脅威を検知して、モデルの訓練に供給し、それがより良い効果を提供するという好循環を実現しているとのことだ。

　「場合によっては週に複数回、平均で週に2.5回モデルが更新され、展開されています。かなり難易度の高いデータサイエンスではありますが、我々はこれを実践できており、大きな優位性として誇りに思っています」（ラップ氏）

　もちろん、昨今の攻撃は必ずしもメールを起点にするわけではない。WhatsAppやSMS、Teams、Slackなど多様な経路を用いてくる。また、AIエージェントの普及により、システムや認証情報にアクセスできるようなエージェンティック技術の登場にも注意を向けるべきだ。

　Proofpointもこうした変化を受け、メールセキュリティの分野で蓄積した知見を、他の攻撃経路にも適用する戦略を実行している。フレンド氏は、「年間で33兆のURLを分析し、安全性を判定したデータベースを構築している」と明かした。この膨大なデータを活用することで、たとえばユーザーがWhatsAppでブラウザ拡張機能を通じてリンクをクリックした際にも、URLデータにアクセスして攻撃を停止できるという。