NVIDIAは、エージェント型AIと強化学習の時代に向けて設計されたプロセッサ「NVIDIA Vera CPU」を発表した。従来のラックスケールCPUと比較して2倍の効率性と50％の高速化を実現するという。
NVIDIA Vera CPUは、NVIDIA Grace CPUの成功を基盤とし、あらゆる規模、業種の組織が大規模なエージェント型AIを実現するAIファクトリーを構築できるようにすると述べている。コーディングアシスタントや消費者向け／エンタープライズ向けエージェントなどの大規模なAIサービスにおいて、より高いAIスループット、応答性、効率性を提供する新しいクラスのCPUだとしている。
エージェント型スケーリング向けの設計
高性能でエネルギー効率に優れたCPUコア、高帯域幅のメモリサブシステム、第2世代のNVIDIA Scalable Coherency Fabricを組み合わせることで、Veraはエージェント型AIと強化学習に共通する極限の使用状況下で、より高速なエージェント型応答を可能にするという。
NVIDIA独自設計による88基のカスタムOlympusコアを搭載し、コンパイラ、ランタイムエンジン、分析パイプライン、オーケストレーションサービスにハイパフォーマンスを提供。各コアはNVIDIA Spatial Multithreadingにより2つのタスクを同時実行でき、一貫した予測可能なパフォーマンスを提供するとのことだ。多数のジョブを同時実行するマルチテナントAIファクトリーに最適だという。
エネルギー効率をさらに向上させるため、LPDDR5Xメモリをベースとした第2世代のNVIDIAの低消費電力メモリサブシステムを搭載し、最大1.2TB/sの帯域幅を実現しているという。これは汎用CPUと比較して2倍の帯域幅である一方、消費電力は半分だとしている。
提供予定
現在量産中であり、今年後半にパートナーから提供される予定だと述べている。
【関連記事】
・ハイレゾ、香川県綾川町に遊休資産を活用したデータセンター開所 NVIDIAのGPUを活用
・NVIDIA、日本向けの小規模言語モデル（SLM）発表 ソブリンAI需要に応える
・マイクロソフト・NVIDIA・Anthropicが戦略的提携 Azureで「Claude」を拡大展開へ
この記事は参考になりましたか？
- この記事の著者
-
EnterpriseZine編集部（エンタープライズジン ヘンシュウブ）
「EnterpriseZine」（エンタープライズジン）は、翔泳社が運営する企業のIT活用とビジネス成長を支援するITリーダー向け専門メディアです。データテクノロジー/情報セキュリティの最新動向を中心に、企業ITに関する多様な情報をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
