AIエージェントの「全社展開」はなぜ失敗するのか　セールスフォースが示す、成功に向けた“4つの条件”

セールスフォースが示す、LLMを補完する「ハイブリッド推論」とは

　2つ目のコントロールによるギャップは、AIエージェントの動作がしばしば不安定になる問題と関係する。タタイ氏は、ユーザーがLLMに多くの指示を与えすぎること、非決定論的に出力することの2つを理由とした。

　特に後者は、プロジェクトでの展開に関わる問題だ。たとえば、「優待顧客として認定するには、商品XYZを購入していなくてはならない。そうでない場合、10%の割引を適用できない」というポリシーがあるとする。コードで記述したロジックで出力結果を制御するソフトウェアであれば、この条件に合致する顧客には必ず10％の割引率を適用できる。しかし、ユーザーの入力内容が自然言語で書かれると、AIエージェントが10％の割引率を適用しないことも起こりうる。つまり、決定論的なアプローチが必要な要求に対して、非決定論的なアプローチであるLLMベースの推論エンジンは対応できない。

　世界的な人材紹介会社として知られるアデコ（Adecco）では、この非決定論的なLLMの特性が大規模展開のボトルネックになった。同社におけるビジネスの根幹は、求職者と求人情報をマッチングさせることにある。求職者が募集要件に合致しているかを判断する選考エージェントを構築したまではよかったが、運用を進める中でAIエージェントの不安定な動作が大問題となった。アデコの判断プロセスは、30段階のステップで構成されているものだ。ユーザーが誰であれ、常に同じ手順で実行するべきであり、AIエージェントが柔軟な対応や創造的な表現力を示す必要はまったくない。むしろ、既存のソフトウェアを用いた自動化のほうが信頼できる。

　LLMなしでAIエージェントを動かすことはできないが、後戻りもできない。このジレンマを解決するため、セールスフォースが提案するアプローチが「ハイブリッド推論」だ。LLMの非決定論的な能力と、コードで記述した決定論的なプロセスの実行能力を組み合わせることで、AIエージェントがプロセスを“常に同じ手順”で実行できるようにした。タタイ氏は、「AIエージェントの実行結果に一貫性が求められる金融やヘルスケアでは、特にハイブリッド推論が機能する」と説明する。