AIエージェントの利用拡大にともない「トークンコスト」の問題について、ユーザー企業でも少しずつ認知が高まっている。AIの使い方を個人の努力に委ねていると、企業規模が大きくなるほど、組織全体でのコスト最適化が難しくなる。この問題にどう対処するか。AIコスト統制の最新動向をガートナー 海老名剛氏に聞いた。
利用グループの設定方法を模索するユーザー企業
「AIの利用料金は従量制」という認識が定着しつつある。IT調達に詳しいガートナーの海老名剛氏は、「闇雲にAIトークンを使われて、ものすごい金額の請求に困っている」という相談が増えてきたと話す。
ベンダーもこの状況を放置しているわけではない。ユーザーの使い過ぎを防止するため、管理者が上限を設定できるオプションを提供する動きが出てきた。早くからトークンクレジット型のビジネスを展開してきたAnthropicやOpenAIのようなAIベンダーだけでなく、大手ソフトウェアベンダーもロードマップでの計画提示を含めて追随している。
とはいえ、ベンダーの対応には温度差がある。商談時にユーザー企業側が説明を求めない限り、上限設定のオプションがあると知らないまま契約しているケースもあるだろう。海老名氏によれば、AIベンダーの日本語版Webサイトは、本国のものと比べるとコンテンツの内容に差があるという。AI活用を奨励したいユーザー企業としては、ライセンスの付与前に社内ルールを定めて「ここまでしか使ってはいけません」と周知するだけの運用で凌ぐわけにもいかない。自分たちで制御するか、できない場合はベンダーに制限をかける仕組みを提供してもらいたいはずだ。
また、「ユーザーグループをどう設定するか」といった相談も増えているという。上限を設定する場合、ユーザー個人単位では細かすぎ、契約単位では粗すぎる。一番簡単なのは人事上の組織にあわせる方法だが、実際には部署の中でもメンバーごとに業務上の必要性が異なり、グループ内での一律の割り当てを不便に感じるようだ。さらに、メンバー間でAIを使いこなすスキルにも差がある。プロンプトエンジニアリングのスキルが高い人たちは、トークンを効率的に使いやすい。そうした人たちにはトークン数の割り当てを多くしても構わないが、使い慣れていない人たちには最低限の割り当てでスタートし、習熟度に応じて増やしていく運用が望ましいだろう。
いずれにせよ、グルーピングの方法は1つではない。最初は、人事上の組織を参考にしたグルーピングから始めるのも悪くない。ただし、使う人の習熟度、どれだけビジネスに有効な使い方ができているのかを可視化した上で、最適な運用に変えていく方法論が求められている。
この記事は参考になりましたか?
- 冨永裕子の「エンタープライズIT」アナリシス連載記事一覧
-
- ガートナーに聞く、AIコスト統制の最新動向 全社最適化はどこまで可能か?
- ロッテ/マクロミルに見るAI-ReadyなITインフラの姿 AIエージェントが変革する基盤...
- ファイナンスに求められるのは「スピード」:意思決定をリアルタイムに近づけるSAPの“新EP...
- この記事の著者
-
冨永 裕子(トミナガ ユウコ)
IT調査会社(ITR、IDC Japan)で、エンタープライズIT分野におけるソフトウエアの調査プロジェクトを担当する。その傍らITコンサルタントとして、ユーザー企業を対象としたITマネジメント領域を中心としたコンサルティングプロジェクトを経験。現在はフリーランスのITアナリスト兼ITコンサルタン...
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア

