OpenAIのセキュリティ責任者が考える「セキュリティ×AI」の3年後、防御側の進化シナリオとは？

ガードレールは「ブレーキ」にはならない

　CiscoのCPO（最高製品責任者） ジートゥ・パテル氏は、「セキュリティやガードレールがイノベーションのスピードを低下させるのではないか」という世間の懸念を投げかけた。

　すると、OpenAIでプロダクトセキュリティリードを務めるドリュー・ヒンツ氏は「むしろ逆だ、イノベーションは加速する」との考えを示した。信頼できるガードレールがあればこそ、AIエージェントに対しより多くの行動と広範なリソースへのアクセスを任せられる。ガードレールがあるからこそ、AIシステムで実際にできることの数もスピードも増すということだ。

　ガードレールは二層で捉える。一つはAIモデル自体に組み込み、会社のポリシーや指示どおりに振る舞うよう訓練する「非決定論的」な層。もう一つは、アクセス制御やサンドボックスなど、外側からルールで機械的に動きを縛る従来型の「決定論的」な層だ。「どちらが欠けてもいけない、両方必要だ」とヒンツ氏は語る。LLMによって新たに構築可能となった非決定論的な層も完璧ではなく、実際に起こりうる事態を限定・制約する決定論的な層の重要性が下がることはない。

　ただし、ガードレールを持たない高度なサイバーモデルだけは扱いが別で、これについては現状、Ciscoでは「従業員への汎用アクセスは与えていない」と、同社CSTO（最高セキュリティ＆トラスト責任者）のアンソニー・グリーコ氏は明かした。

脆弱性を「指摘するだけ」のセキュリティ組織は破綻している

　話題はAIモデルの選定基準へと移る。自社ではどの基盤モデルを使うか。グリーコ氏の場合は、そのAIモデルが使えるか否かを判断する際、最初は「プロバイダーが誰か」を確認するところから始める。外部ホストのAIモデルならば、データの扱いやアクセス権、自社データが学習に使われないかどうかをクラウドセキュリティと同じ発想で確認し、ユースケースへの適合を見極めて最適なモデルを選ぶ。

　パテル氏は、グリーコ氏がCiscoでセキュリティ・トラスト責任者に着任したあと、セキュリティ組織を「問題を見つけるだけでなく、エンジニアが実際に修正する」チームへ変革した点を評価しているという。従来のセキュリティ組織は、言うなれば「問題を指摘して他者に修正を任せ、次へ行ってしまう」存在だったとのことだ。しかしグリーコ氏は、「これでは根本的に破綻した状態だ」と断じた。同氏のチームは、脆弱性を特定し、修正済みのコードまでプロダクトチームに提供する。

　OpenAIでも同様だという。同社では、発見した脆弱性をCodexに投げればパッチ案が返ってくる。そして、継続的な回帰テストで毎日・毎コミット、同じ脆弱性が再混入していないか点検する。かつては多くの人的リソースと経験を要した作業だが、今では誰もが簡単にAIと協働して回せるようになっている。