AI時代の神経系「ネットワーク」、それを守る「セキュリティ」──2つの融合が企業生存の必須条件になる
三菱電機グループやトヨタ自動車が実践するAIセキュリティ/レジリエンス施策も明かされる
AIを狙った攻撃への対応が急務だが、セキュリティ担当者にはもうリソースが……
AI時代に新たに台頭した脅威やセキュリティの新常識についても、従来の認識を改める必要がある。今回、与沢氏が「黎明期から特に顕在化している攻撃手法」として挙げたのは以下の5つだ。
- モデルインバージョン:AIモデルに対し強制的な操作を行い、データや個人情報、設計図、ソースコードなどといった情報を外部に漏えいさせる
- モデル窃盗:AIモデルに対しリバースエンジニアリングを行い、モデルそのものを盗み出す
- モデル回避攻撃:AIモデルに設定されているセーフガードを迂回し、モデルを騙して悪意ある誤動作を起こさせる
- プロンプトインジェクション:悪意あるプロンプト(指示)の入力によって、AIモデルの出力を操作する
- データポイズニング:AIモデルの学習データに、不正確あるいは有害なデータを混入させることで性能低下や誤動作、機能不全を誘発させる
さらには、シャドーAIや野良AIといった言葉が既にバズワードと化している。これらに対応すべく、「Security for AI(AIを守るためのセキュリティ)」の製品を各社が次々と市場に投入している。
ただし、新たに対応すべき脅威が次々と出現しているにもかかわらず、セキュリティ担当者やIT部門は、日々発生する大量のイベントやアラートへの対応で手一杯だ。さらには、「自社のIT資産やアタックサーフェスの棚卸しも正確にはできておらず、ハイブリッドクラウド化やマルチベンダー化した環境のセキュリティ運用も統合できていない」と、米国から来日した主席セキュリティストラテジストのデレク・マンキー氏は指摘する。そのため、既存の脅威に対応するだけでも、運用の現場は限界を迎えているのが現状だ。
そこで近年、防御側でもAIによる運用の自律化を試みる動きが活発化している。いわゆる「エージェンティックSOC」や「AI for Security(AIによるセキュリティ高度化)」などと呼ばれるトレンドだ。
フォーティネットもまた、この環境変化やニーズの高まりに対し最新の技術で応える。同社の製品群の土台とも言える独自OS「FortiOS」は、最新バージョン8.0にて、シャドーAIのアプリケーションコントロールや、MCPプロトコルの検出機能が拡張された。たとえば、ユーザーの画面に表示される「AI Observability Center(AI可視化センター)」の機能を使用することで、ネットワーク上のあらゆるユーザー、AIエージェント、マシンがどのアプリケーションにアクセスしているのかを、中央のコントロールパネルですべて詳細に確認できる。各AIエージェントのログ監視・追跡や、即時のブロックも簡単だ。同社が提供するすべてのネットワークおよびセキュリティ製品は、このFortiOS上でシンプルな統合運用が可能となっている。


フィールドCTOのジャック・チャン氏は、AIモデルそのものの保護からAIシステム/AIエージェントの行動・権限に至るまでの統制(Security for AI)、さらにはAIによるセキュリティ運用の自律化・自動化(AI for Security)も、すべてFortiOSを土台とする同社の製品群内で機能や製品を実装済みだと強調した。
この記事は参考になりましたか?
- Security Online Press連載記事一覧
-
- AI時代の神経系「ネットワーク」、それを守る「セキュリティ」──2つの融合が企業生存の必須...
- フロンティアAIで攻撃が高度化/国家間のサイバー戦もAIで激化 企業が構築すべき「動的防御...
- AIセキュリティに舵を切ったZscaler──製品戦略、OpenAIとの対談などで見えた同...
- この記事の著者
-
名須川 楓太(編集部)(ナスカワ フウタ)
サイバーセキュリティとAI(人工知能)関連を中心に、ソフトウェア/ハードウェアを問わず国内・海外の最新技術やルールメイキング動向を取材。そのほか、DX推進、企業財務・IRなどのコーポレート領域でも情報を発信。武蔵大学 経済学部 経済学科 卒業。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
提供:フォーティネットジャパン合同会社
【AD】本記事の内容は記事掲載開始時点のものです 企画・制作 株式会社翔泳社
この記事は参考になりましたか?
この記事をシェア
