Dataikuは、企業が生成AI導入を概念実証から本番稼動までスケールできるよう設計された「LLMガード」の提供を開始した。
Dataiku LLMガードはソリューションのスイートで、コストガード、安全性ガード、そして新機能となるクオリティーガードの3つが含まれる。これらの要素は、包括的かつ特定の技術に依存しないLLMゲートウェイであるDataiku LLMメッシュに統合されており、エンタープライズグレードの生成AIアプリケーションを構築および管理でき、時間が経過しても効果的かつ適切に機能するという。企業内のチームをまたがる生成AIプロジェクトで、より高い透明性、包括的なコラボレーション、および信頼を促進するために、LLMガードはスケーラブルなノーコードフレームワークを提供するとのことだ。
LLMガードの3つの主要な要素は次のとおり。
- コストガード：企業におけるLLMの使用状況を効果的に追跡、監視する専用のコスト監視機能で、生成AIの予算に対する支出を予測、管理する
- 安全性ガード：リクエストとレスポンスの機密情報を評価し、カスタマイズ可能なツールでLLMの利用を保護する機能で、データの乱用や漏えいを防ぐ
- クオリティーガード：新たにスイートに加わった最新機能で、各ユースケースのLLMに対して自動的で標準化されたコードフリー評価による品質保証を提供。レスポンスの質を最大化し、評価サイクルにおける客観性と拡張性の両方を実現するという
LLMクオリティーガードを使用することで、顧客企業は、回答の関連性、正確性、コンテキストの精度などのLLM-as-a-judgeテクニックや、BERT、ROUGE、BLEUなどの統計的テクニックを含む標準的なLLM検証指標を自動的に計算処理でき、生成AIの信頼性をより高い予測可能性で長期間維持するために、適切なLLMとアプローチを選択できるとしている。
加えて、クオリティーガードは生成AIアプリケーションを民主化し、あらゆる関係者が、品質を評価するための一貫した方法論で、概念実証（PoC）の実験から企業規模のアプリケーションへの移行を把握できるとのことだ。
【関連記事】
・NTTデータ、オラクルと協業 日本市場のソブリン要件への対応強化
・ベイン・アンド・カンパニー、OpenAIとのパートナーシップを強化 専任チーム「OpenAI CoE」設立
・経営層の81％が生成AI投資を増やすも、成熟度は44点と低い──ServiceNow Japan調査
