OpenAIのセキュリティ責任者が考える「セキュリティ×AI」の3年後、防御側の進化シナリオとは?
誰もがMythosやGPT-5.5-Cyberにアクセスできるわけではないが、対策の手段は持っている
MythosやGPT-5.5-Cyberのアクセス権がなくとも、既存の有効策はたくさん存在する
最後に、記者やアナリストからの質問に対しパネリストたちが答える場面があった。まずは、AIエージェントが運用上のインシデントを起こした際、誰が責任を負うのかについて。ヒンツ氏は「責任自体は関係者全員が負うことになる」としたうえで、責任追及よりも「ブレームレス・ポストモーテム(非難のない事後検証:個人のミスを追及するのではなく、なぜ発生したのか仕組みに焦点を当てる事後検証)」が重要だと述べた。また、グリーコ氏は「AIという不確定な技術の活用においては、個人のミスを許さない完璧主義が普及促進を阻んでしまう」と補足した。
イベント開催中(2026年5月31日~6月4日)にトランプ大統領が署名した、最先端AIの事前審査に関する大統領令についても質問があった。大統領令の中では、「企業が新たなフロンティアAIモデルを公開する際は、公開の30日前までに米政府へ情報提供を求める」旨が盛り込まれており、グリーコ氏はこれを「重要な前進だ」と評価した。
続いて、セキュリティ担当者の役割やスキルについて質問が行われた。質問者は、セキュリティ担当者に求められるスキルが、攻撃者やテクノロジーの進化に合わせて増えていくとの見解を示したが、グリーコ氏は「スキル不足によってセキュリティ担当者が失業する懸念はそれほどなく、問題は『AIなしでは仕事が回らない』点にある」と述べた。仕事は増え続けるが、それをAIによって処理していくことが当たり前となっていき、セキュリティ担当者の役割はリーダーやストラテジストへとシフトしていくとのことだ。
最後は、最新サイバーモデルへのアクセス拡大について。ヒンツ氏は、OpenAIが構築した専門家コミュニティ「OpenAI Red Teaming Network」を紹介した。①トークンやAIモデルへのアクセス提供、②脆弱性を発見してパッチを生成するCodeGuard、③サイバーモデルへの段階的アクセスを束ねるプログラムで、主に以下の目的と役割を掲げている。
- 脅威の事前特定:最新AIモデルの悪用、バイアス、フェイク情報の生成、サイバー攻撃への悪用リスクを事前に洗い出す
- 緩和戦略の構築:悪意あるプロンプト(脱獄)に対するシステムの防御力を高めるための検証を実施。
- 安全なAI開発の実現:外部の独立した視点を取り入れることで、偏りのない客観的な安全基準の策定を目指す
また、OpenAIから防御者として認定された組織は、GPT-5.5のアクセス権を取得でき、日常の脆弱性探索や概念実証コードの作成をほぼ賄える。加えて、特定の専門家や組織には、侵害や攻撃をシミュレートするレッドチーム型の用途に限り「GPT-5.5-Cyber」が利用可能だ。Ciscoでも、レッドチームだけがアクセスを許されている。なお、ヒンツ氏によれば、脆弱性の発見能力はGPT-5.5-CyberとGPT-5.5ともにほぼ同等で、違いは実行のガードレールにあるという。
ここまでを踏まえたうえで、「必ずしもトップレベルのAIモデルが必要というわけではない」とグリーコ氏は指摘した。Mythos(Fable)やGPT-5.5-Cyberがなくとも、今日のセキュリティで役立てられる技術やノウハウはたくさん存在する。CiscoのCodeGuardもそうだ。アクセスできるAIモデルの水準を問わず、誰もが強固なセキュリティを築けるよう、モデルに依存しないハーネスがオープンソース化されている。
この記事は参考になりましたか?
- Cisco Live!連載記事一覧
-
- OpenAIのセキュリティ責任者が考える「セキュリティ×AI」の3年後、防御側の進化シナリ...
- AMDのCIOに尋ねる──企業の価値をAIが左右する今、その裏方を支えるIT部門をどう評価...
- Splunkの幹部に訊く、Ciscoとのシナジーで狙う世界──AI時代が進んだ先の「可観測...
- この記事の著者
-
森 英信(モリ ヒデノブ)
就職情報誌やMac雑誌の編集業務、モバイルコンテンツ制作会社勤務を経て、2005年に編集プロダクション業務とWebシステム開発事業を展開する会社・アンジーを創業した。編集プロダクション業務では、日本語と英語でのテック関連事例や海外スタートアップのインタビュー、イベントレポートなどの企画・取材・執筆・...
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア
