Dataikuは、Dataiku LLMメッシュの新機能であるコスト監視専用ソリューション「LLM Cost Guard」を発表した。
LLM Cost Guardは、企業のLLM使用状況を追跡・監視し、生成AIのコストを適切に予測および管理するもの。特定のアプリケーション、プロバイダー、ユーザーに起因するコストを可視化し、LLMユースケースによってどのようなコストが生じているか把握できるという。機能の詳細は以下のとおり。
- LLMコストのタグ付けと追跡：コストを特定のプロジェクトに割り当てることで、財務状況の透明性を高める
- コストの区別：本番稼働におけるコストと開発コストを区分し、戦略的な財務計画を支援
- 早期警告システムの導入：コスト超過の可能性を早期に特定し、ガバナンスの不備に関連するものなど、財務リスクを軽減
- 詳細なインサイトの獲得：LLMの使用状況と支出に関するダッシュボードへのアクセスにより、情報に基づいた意思決定と投資の最適化が可能
【関連記事】
・「Dataiku V12.5」で日本語GUIを提供、その他新機能も搭載
・デロイト トーマツ、Dataikuと協業 AIおよびMLOpsを組織全体に取り入れることを支援
・NTTデータ先端技術、「Dataiku」提供を開始 2025年度までに累計20億円の売上げを目指す
