OpenAIのセキュリティ責任者が考える「セキュリティ×AI」の3年後、防御側の進化シナリオとは？

防御側はAIを「使えばよい」のではなく、「どう使うか」を考える

　AIは防御側よりも攻撃側に優位性をもたらすという意見も多いが、ヒンツ氏はもっと楽観的だ。「『攻撃者は侵入口を一つ見つけるだけでよい』というのは確かにそのとおりだが、それは防御側でも同じことが言える」と同氏。防御側もどこか一箇所、侵入経路やミスを検知できれば、AIエージェントがその痕跡をたどるのはそれほど難しくない。それこそ、全アラートとログを横断して監視・追跡できるAIエージェントを導入すれば、異変を捉えるのは簡単だという。加えて、防御側には自分たちが戦いやすい陣地を築けるアドバンテージがある。攻撃側は、何ヵ月もかけて構築した陣地に挑まなければならない。

　グリーコ氏は、AIを巡る攻防の様相を「長年続くいたちごっこの延長だ」としたうえで、「本質はAIを防御に導入するかどうかではなく、どう使うかだ」と指摘した。たとえばChatGPTが登場した時には、人々は簡単にキレイなメールを書けるようになったが、仕事のルーティンそのものは変わらなかった。真に変革や成果を生む活用を模索しなければ、大きく状況が好転する可能性は低い。

　では、セキュリティにおいて変革や成果を生むAIの使い方とは何だろうか。グリーコ氏が述べたのは、AIハーネスとフレームワークで自動化を全面的に取り入れ、組織全体として防御オペレーションを根本から再設計することだ。

　その実例として、同氏は自社レッドチームの変革を挙げた。Ciscoでも約20年にわたり人手による脆弱性の探索を続けてきたが、限界を迎えつつあった。しかし、反復作業から人を解放してくれる最新AIモデルが登場したことを機に、発見から確認、パッチ提示まで人手を介さず回せるハーネスを構築したという。結果的に、8週間で約18億行のコードをスキャンし、完全に自動化されたシステムで脆弱性を発見できるようになったとのことだ。

AIエージェントで「システムごとの防御の作り分け」も可能に

　組織の構造も変わりつつある。ヒューマンワーカーだけでなく、AIエージェント、すなわち「デジタルワーカー」も組織の一員として仕事を担うようになれば、AIエージェントが他のAIエージェントへ仕事を委ねたり、何かを渡したりする場面も増えてくる。そのとき、どう信頼を設計するか。

　ヒンツ氏はCodexでの経験を振り返った。Codexも、初期は頻繁に人間への確認が必要だった。その煩わしさから、すべてを自動承認・実行する者も現れた。しかし、これではサンドボックスでも承認なく何でも実行してしまう非常に危険な状態だ。

　そこでOpenAIが導入したのが「自動承認（Auto-approve）」だ。AIエージェントの挙動を別のAIモデルが監視し、信頼の可否を判断する仕組みだ。正規表現の静的ルールを超え、文脈そのものを理解させる。エンジニアが何を承認・拒否したのか、データで判断モデルを訓練し、誤動作があれば直す。エージェントによるエージェントの監視だ。

　Ciscoでも、ちょうど全従業員がAIエージェントを使い始めたという。グリーコ氏によれば、同社では共通タスク向けのあらかじめ用意したエージェントを展開し、自作エージェントの接続もサンドボックス環境とガードレールの中で可能にしているとのこと。脆弱性の発見・修正を担うエージェント間では、データを引き渡す際に行う最初の指示を「懐疑的であれ」と設定し、盲目的な信頼を防ぐようルールに組み込むという。

　ただし、防御策が明らかになってしまえば、攻撃側からそれを逆手に取られ、出し抜かれる恐れもある。そこでヒンツ氏は、「守りを多様に保つことが重要だ」とアドバイスした。従来、システムごとのセキュリティの作り分けは専任エンジニアを要するため非現実的だったが、AIエージェントによって今たそのハードルは解消された。週末に走らせるだけで、対象のシステムごとに最適化した守りを作り込める。防御の仕組みが一つひとつ違えば、均質な環境を一手で抜く攻撃は使い回せない。