デル・テクノロジーズは、生成AIソリューションポートフォリオを拡張し、「Dell AI Factory」にAMD環境に特化したソリューション「Dell PowerEdge」を追加した。
Dell PowerEdgeサーバー
同サーバーには5つのモデルが設計されているという。それぞれの特徴は以下のとおり。
「PowerEdge XE7745」(2025年1月より全世界で提供開始予定)
エンタープライズAIワークロード向けに設計。最大8基のダブルワイドPCIe GPU、または16基のシングルワイドPCIe GPUを、第5世代AMD EPYCプロセッサーとともに4Uの空冷シャーシで支援するという。
AI推論、モデルのファインチューニング、ハイパフォーマンスコンピューティング(HPC)向けに内部のGPUスロットが設計されており、ネットワーク接続用に追加された8つのPCIe 5.0スロットと組み合わされることで、従来の2倍以上のダブルワイドPCIe GPUキャパシティを実現するとしている。
「PowerEdge R6725」および「R7725」(2024年11月より全世界で提供開始予定)
第5世代AMD EPYCプロセッサーを搭載。新しいDC-MHSシャーシ設計により、空冷能力の強化と500W CPUのデュアル搭載が実現され、厳しい熱課題に対処しつつ電力効率を向上するという。高負荷のデータ分析やAIワークロードを、拡張性に最適化された構成で支え、仮想化、データベース、AIなどのワークロードでパフォーマンスを発揮するとのことだ。
CPUスタックの最上位を搭載した「R7725」は、最大66%のパフォーマンス向上と最大33%の効率向上を提供するとしている。
これら3つのプラットフォームは、最大50%以上のCPUコアをサポート。コアあたりの性能も最大37%向上されているため、より高いパフォーマンスと効率、総所有コストの改善を実現するとのことだ。この向上により、5年前のサーバー7台分を1台のサーバーに統合でき、CPUの消費電力を最大65%削減できるという。
「PowerEdge R6715」および「R7715」(2024年11月より全世界で提供開始予定)
第5世代AMD EPYCプロセッサーを搭載。パフォーマンスと効率を向上させるとともに、最大37%増加したドライブ容量で、より高いストレージ密度を実現するという。24 DIMM(2DPC)のサポートにより、メモリ容量が前世代の2倍になっているとのことだ。様々なワークロード要件に対応し、1Uおよび2Uのコンパクトなシャーシでパフォーマンスを発揮するという。
なお、R6715は、AIや仮想化タスクでパフォーマンスを発揮するとしている。
また、デル・テクノロジーズは、AIを大規模に導入する顧客向けに、すべての最新のAMD Instinctアクセラレーターを継続的に「PowerEdge XE」シリーズでサポートするとのことだ。
その他、「iDRAC(Integrated Dell Remote Access Controller)」がアップデートされ、ITチームは遠隔で「PowerEdge」サーバーを監視、管理、アップデートできるようになったという。
Dell AI Factoryの機能強化
Dell AI Factoryは、デスクトップからデータセンター、クラウドまでを網羅。多様なAIの要件に対応できるように設計されているという。詳細は以下のとおり。
「Dell Generative AI Solutions with AMD」(2024年第4四半期より全世界で提供開始予定)
「PowerEdge XE9680 with AMD Instinct(TM) MI300Xアクセラレーター」を活用する同ソリューションは、AI推論、RAG、カスタマイズを実現。AIの導入を簡素化してセキュリティを強化するとともに、拡張性に優れたモジュラー型アーキテクチャを可能にするとのことだ。また、価値実現までの期間を最大86%短縮し、AIへの投資から最大限の効果を引き出せるという。
「Dell Enterprise Hub on Hugging Face」(全世界で既に提供開始済み)
AMD Instinct MI300Xアクセラレーターを搭載した「PowerEdge XE9680」をサポートし、LlamaやMixtralなどのモデルを簡単、かつ安全に導入するための、カスタムコンテナとスクリプトを提供するとのことだ。これらのコンテナ化されたモデルは、モデルとサーバーをベースにして推論パフォーマンスを向上させ、Hugging Face Text Generation Inference(TGI)バックエンドを活用するように独自に最適化されているという。
「Dell Implementation Services for GenAI Platform with AMD」(現在指定の国において既に提供済み)
「Dell Professional Services for Generative AI」がAMD環境をサポートした同ソリューションは、Kubernetesの構成、先進のAIフレームワークの導入、ROI(投資利益率)を最大化するための顧客へのナレッジトランスファーなどを含め、顧客向けにカスタマイズした運用プラットフォームを提供。同社が、戦略の策定からデータの準備、プラットフォームとモデルの実装、ソリューションのスケーリングまでをサポートするという。
【関連記事】
・CTCとデル・テクノロジーズ、AI分野で連携を強化 生成AI関連の共同ソリューションセンター設立へ
・デル・テクノロジーズ、世界5拠点目の「Innovation Lab」を東京に開設 AI特化は初
・デル・テクノロジーズとRed Hat、新たなコラボレーション発表 AIモデルの開発~展開をシームレスに