NVIDIAは、エンタープライズ規模で安全かつ制御されたエージェンティックAIの展開を促進するため、新しいNIMマイクロサービスを含むNVIDIA NeMo Guardrailsを発表した。1月16日に開催されたオンライン説明会では、同社アプライドリサーチ担当シニアマネージャーのキャリー・ブリスキー氏がNeMo Guardrailsの開発と展開、そして顧客がどのようにこのテクノロジーを活用してAIアプリケーションを保護しているかについて説明した。
AI技術の急速な進化に伴い、企業におけるAIエージェントの活用はますます広がりを見せている。しかし、その一方で、AIの倫理的な問題や予期せぬ動作によるリスクも懸念されている。ブリスキー氏は、「IT部門はAIエージェントの人事部になる」というジェンスン・ファンCEOのCESでのスピーチの言葉を引用し、「従業員と同様にAIエージェントも企業のポリシーやガイドラインに従う必要がある」と強調した。
今回のNeMo Guardrailsで強化されたのは、新たに発表された「NIMマイクロサービス」。これはAIエージェントの動作を監視し、問題のあるコンテンツや行動をブロックする機能を提供する。今回発表された3つの新しいNIMマイクロサービスの主な特徴は以下の通りだ。
-
コンテンツ安全NIM：有害なコンテンツや非倫理的な出力を検出・ブロック。35,000以上の人間による注釈付きデータでトレーニングされた精度の高い保護機能を提供。
-
トピック制御NIM：会話を承認されたトピックに限定し、不適切な方向への発展を防止。自動車メーカーの事例では、製品情報に特化した応答のみを許可する運用が可能に。
-
ジェイルブレイク検出NIM：17,000の既知の攻撃パターンを基に、AIシステムへの不正な操作試行を検知・防御。
「NeMo Guardrailsは、エージェントを正しい軌道に乗せるための重要なツール」とブリスキー氏は語る。企業がLLMを安全かつ信頼できるツールとして活用できるための「ガードレール」機能を構築するもので、LLMベースの対話システムに簡単に追加するための OSSツールキットとして提供される。これによって企業は独自の保護ルールを追加したり、サードパーティのソリューションと統合したりすることで、進化するセキュリティニーズに柔軟に対応できるという。
ブリスキー氏は、これらの保護機能が顧客の要求を大幅に上回る性能を発揮し、レイテンシーを3秒以内に抑えて動作していると述べ、Amdocs、Cerence AI、Lowe'sなどの企業が、すでにNeMo Guardrailsを導入し、顧客サービスの向上や社内システムの保護に活用していることを紹介した。
