ガートナーに聞く、AIコスト統制の最新動向　全社最適化はどこまで可能か？

ベンダーとは「リスク低減」を意識した契約を

　こうした状況下で、特定のベンダーと長期契約を結ぶことは、別の選択肢が出てきたときに移行できないリスクを抱えてしまう。AIの調達では、下図に示すどれか1つに重きを置くにしても、複数の調達方法を組み合わせることが重要だ。そして、複雑な環境下でのAIコストの統制も考えなくてはならない。

　海老名氏は、AIのリスクを理解することも重要と話す。上図「4つの調達方針」のうち、最初からAIエージェントを調達の中心に据えることはリスクが大きい。今までAIをさほど使ってこなかったところ、いきなりAIエージェントから利用すれば、呼び出した先でAIがどのような問題を起こすのか、そのリスクを理解しないままAIを使うことになってしまう。このリスクは、AIエージェントの目的達成志向と関係している。AIエージェントにプロンプトを与えると、背景にある目的を解釈し、その目的達成のためにMCPやAPI経由であちこちにアクセスしていく。目的を達成しようと試行錯誤のできる自律性は素晴らしいが、モデルはやっていいことと悪いことの区別はできない。トークンの浪費どころか、新しいコードを書いてでも目的達成に必要と判断すれば実行に移してしまう。

　AnthropicのAIモデルによる政府システムへの意図しないアクセスのようなインシデントに至らないまでも、想定外の損害・危害を人間に加えてしまったときの責任の所在はどこにあるのか。「AIエージェントの素晴らしさを訴求しているベンダーは多いが、重大なインシデントが起きたとき、ベンダーによる補償を期待することは難しい。今の状況では、何かあったときの責任を負うのはユーザー企業になるだろう」と海老名氏は懸念を示した。

　特定業務への導入を検討している場合、安全性を検証できた範囲内で利用する。もしくはベンダーが検証して提供する「ビジネスソフトウェアのAI機能」を使う。そうすれば、リスクをある程度は抑えられる。AIを活用しようとする意欲に水を差すわけではないが、他人の権利を侵害しないこと、差別的な表現を広めないことなど、リスクを排除した上でコストに見合う効果を得られる使い方が望ましい。モデルの開発ペースを落としてでも、安全性確保に投資するべきではないかという議論も出てきた。AIに関する法制度も、EU AI Actとは違って、日本の法制度は罰則規定をともなうものではない。リスクマネジメントでは、法制度が変わる可能性も念頭に入れておく必要がある。