ガートナーが明かす「AIセキュリティ6大脅威」　なぜAIエージェントが機密情報を漏洩させるのか？

AIエージェントリスクと他の5つの脅威／リスクとの関係

　間接的なプロンプトインジェクションは、今後AIエージェントの活用が進むにつれて、深刻になることが予想される。2025年7月時点では、AIエージェントへの攻撃の事例は報告されていないが、AIエージェントは1つの部屋に4〜5人の5歳児を入れたようなものなので、これまで述べてきたリスクや攻撃の影響がより深刻なものになる可能性がある。

　2025年の話題の焦点は、AIアシスタントからAIエージェントに移った。AIエージェントが大きな注目を集めている理由を「LLMをより賢くするにはお金も時間もかかるが、やり方によっては短期間でより良い出力結果が得られるとわかったため」とシュー氏は指摘した。通常、生成AIアシスタントを使う時は、一問一答形式の方が満足できる水準の回答を早く得られる。5歳児に、たくさんのことを一度に依頼してもできないのと同様に、ユーザーが質問をいくつかに分解して依頼をする。どうすれば自分の求める結果を得られるのか、戦略的に考えて生成AIアシスタントを使うので、ヘビーユーザーは、プロンプトエンジニアリングの手法を知らず知らずのうちに駆使している。

　一方、AIエージェントは、複雑なタスクを与えられても、一問一答形式ですぐに結果を返すことはしない。代わりに、サブタスクに分解し、前後関係や依存関係を分析し、計画を立ててアクションを実行する。これはシングルエージェントのアプローチだが、マルチエージェントになると、同じプロンプトに対して、単独ではなく他のAIエージェントに相談しながら、計画を立ててタスクを実行する。ただし、相談相手は同じ5歳児だ。タスクを依頼された5歳児と5歳児が対話をして最終的な結果を返す。ガードレールを設定し、リスクの高いアクションを実行できるようにはなっていないとわかれば、まずは一安心だ。しかし、すべてのAIエージェントが適切にガードレールを設定しているとは限らない。このリスクに対処するには、5歳児に任せてもいいようなリスクの低いタスクだけを任せる。あるいは、人間の承認を得てからタスクを実行できるようにするかだ。

　「AIセキュリティは急速に変化している。新しいものが次々に登場するので、AIを活用している組織は、市場で何が起きているかを継続的にモニタリングし、対応する必要がある。AIの進化にセキュリティも追随しなければならない難しさがあるが、企業には計画よりも実行スピードを重視してほしい」と、AIセキュリティとの付き合い方をシュー氏はアドバイスしてくれた。