フロンティアAIによる攻撃にどう対処すべきか──GMO Flatt Security 米内氏が読み解く「Mythos以降のAIセキュリティ」

経営と現場は何をすべきか──米内氏に聞いた5つの論点

　ここまでの2つのリスクである「攻撃の自律化と、モデル供給の不安定さ」を前提にすれば、結局は個々の企業が自衛するしかない。米内氏は守り手が取るべき対応を「技術」と「経営」の両面で整理する。

　技術面の起点は、身も蓋もないが「とにかくパッチを当て続けること」だという。穴がなければ攻撃は成立しないうえ、悪用までの時間が短くなっている今、なおさら効いてくる。ただし実務では、システム更新やセキュリティ業務を外部に委託していて費用も時間もかさむ、メンテナンスの枠が週末しかなくパッチ適用に最短でも1週間かかる、といった詰まりが生じる。「穴を空いたままにしない」ための体制構築と、試験環境の拡充を含む技術的準備が欠かせない。そのうえで守り手自身もAIを使い、人以上の速さと精度で脆弱性の検出・修正やサプライチェーンリスク対策を自動化する必要がある。攻撃側が人手を離れて自律的に動く以上、防御側だけが人手で戦い続けるのは分が悪いからだ。ただしAIを安全に走らせるには、モデルの外側で動作を制御する「ハーネス」（AIにツール実行や作業指示を与えるソフトウェア層）が要る。素のモデルはハーネスなしでは実務でうまく動かず、暴走の歯止めもきかない。フロンティアモデルそのものの確保に加え、このハーネスの提供者をどう確保するかも、供給網上の新たな論点になる。

　経営面では、こうした投資判断をトップが「経営課題」として引き受けられるかが鍵を握る。実際、金融庁・日本銀行は金融機関に対し、フロンティアAIによる脅威の変化を踏まえ、経営トップがこれを「経営課題として扱う」よう要請で明記した。重要インフラを中心にこうしたトップダウンの要請・提言は続くとみられ、それが金融以外の業界へ広がるかどうかが、民間全体の対応を左右する。裏を返せば、そうした号令が届きにくい大半の業界では、企業が自ら旗を振るしかない。

　この実務を、勉強会後の追加取材でさらに掘り下げた。米内氏に投げかけたのは、次の5点だ。

　それぞれへの米内氏の答えを、順に引いていく。

　まずハーネスについて。米内氏は「脆弱性の発見や悪用はモデル単体でも動く。だが、お客様の環境で安全にテストするにはハーネスが必要不可欠だ」と語る。たとえばクラウド環境のテスト中に本番環境の認証情報がたまたま見つかり、AIがそれを辿って本番へ侵入してしまう──そんな事故だ。同社のハーネスは、環境をまたぐ操作を検知した段階で自動的に動作を止める。こうした制御役は、賢いモデルが安価に普及しない限りハーネス側に残り続けるとみる。

　AI担当者とセキュリティ担当者どちらが主導権を握るべきか。米内氏の答えは「AI担当」だった。セキュリティ担当はAIをチャットボット的にとらえる傾向がなお強く、自律的に動くエージェント型AIのスピード感を体で理解しているのはAI担当だから、との理由だ。ただし連携のかたちも語った。自社システム全体や避けるべき最大のリスクを俯瞰するのはセキュリティ担当の領分であり、両者が肌感覚と統制ルールを持ち寄ってすり合わせるのが理想だという。推進役と牽制役を分けるか一体化するかは規模と業界次第で、重要インフラや大企業なら分離、スタートアップなら一体推進が向くとした。

　経営層をどう動かすかについては、あえて遠回りを勧めた。「まず社内でAIを徹底的に使いこなしてもらうことが先決だ」。金融のようなトップダウンが効かない大半の業界では、まず業務効率化などで成果を出し、「AIを使うなら守りもセットで必要だ」という文脈でセキュリティ投資へつなげる。それが現実的だと語った。

　外部ベンダーやSIerとの関係については、「契約形態が大きく変わることはない」との見方を示した。もっとも、これまでセキュリティとの接点が薄かったAI先行のスタートアップは、連携を増やすべきだと付け加えている。

　最後にガバナンスの見直し頻度。「頻度は高くなくていい。ただし今すぐ一度は見直すべきだ」と念を押した。「攻撃者が人間を介さず自律的に仕掛けてくる以上、こちらもAIで対抗せざるを得ない」。この不可逆なラインは既に越えた、というのが米内氏の認識だ。リスクを理由にAIを一律禁止する姿勢は、もはや成り立たない。全員がAIを使う前提へ舵を切り、あとはどのツールを許可するかを月1回程度、外部の情報を仕入れながら調整していく。そんな運用像を描いた。

　最後に、Mythosのようなフロンティアモデルを危険視し、社内で安易に使うことを警戒する声もある。この見方をどう考えるかと尋ねた。

　米内氏の結論は明快だった。「一歩も立ち止まらず、積極的に使ってほしい」。素のモデルをそのまま実務に投入することはなく、ハーネスを介して使う以上、いまは導入のメリットが圧倒的に上回るフェーズにある──そう言い添える。

　「使うべきか否かを迷う時期ではない。使うことを前提に、いかにリスクをヘッジするかを考えるべきタイミングだ」

　過度に恐れるのではなく、使いこなす。その姿勢でフロンティアモデルと向き合うことが、攻撃のAI化に対する最善の備えになる。