米国時間2025年1月30日、NVIDIAは「NVIDIA NIMマイクロサービス」でオープンモデル「DeepSeek-R1」が利用可能になったと発表した。
DeepSeek-R1は、最先端のリーズニング機能を備えたオープンモデル。このリーズニングモデルは、直接的な応答を提供するのではなく、1つのクエリに対して複数の推論パスを実行し、思考の連鎖、コンセンサス、および検索方法を実行して回答を生成するという。
同社は、6710億パラメータのDeepSeek-R1モデルを、NVIDIA NIMマイクロサービスのプレビュー版として提供。DeepSeek-R1 NIMマイクロサービスは、単一のNVIDIA HGX H200システムで最大3,872トークン／秒を生成できるとしている。
同サービスは業界標準のAPIをサポートしており、シンプルに展開できるという。企業は、自社で選んだアクセラレーテッドコンピューティングインフラ上でNIMマイクロサービスを実行することで、セキュリティとデータプライバシーを高められるとのことだ。
また、NVIDIA NeMoソフトウェアとNVIDIA AI Foundryを併用することで、専門的なAIエージェント向けにカスタマイズされたサービスを作成することも可能だとしている。
今後、NVIDIA AI Enterpriseソフトウェアプラットフォームの一部として、ダウンロード可能なNIMマイクロサービスが提供される予定とのことだ。
【関連記事】
・HPE、NVIDIAと共同開発した「HPE Private Cloud AI」を国内提供開始
・NVIDIA、エージェンティックAIの安全性を強化する新機能「NIMマイクロサービス」を発表
・NVIDIA、トヨタ自動車ら3社をAI活用の自律化された自動車の展開パートナーに追加
この記事は参考になりましたか？
- 関連リンク
- この記事の著者
-
EnterpriseZine編集部（エンタープライズジン ヘンシュウブ）
「EnterpriseZine」（エンタープライズジン）は、翔泳社が運営する企業のIT活用とビジネス成長を支援するITリーダー向け専門メディアです。データテクノロジー/情報セキュリティの最新動向を中心に、企業ITに関する多様な情報をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
