VMware Tanzuと組み合わせ、vGPUを最大限に活用できるようにする
「AIにおいてもITインフラと同様に仮想化のメリットを得たいと考え、NVIDIA AI Enterpriseが採用されている事例が増えています」と言うのは、エヌビディア合同会社 エンタープライズ事業本部 データセンターGPU営業推進 シニアマネージャの川井源氏だ。VMwareのハイパーバイザーと組み合わせた仮想GPU（vGPU）で、GPUのリソースを必要な分だけ割り当てられる。これを活用して、AI開発のインフラの効率化を図るケースが増えているのだ。
データセンターGPU営業推進 シニアマネージャ 川井源氏
そして、よりGPUを効率良く使うには、AIのアプリケーションとインフラのレイヤーをそろえる必要があると言うのは、ヴイエムウェア株式会社 パートナー技術本部 パートナー第一SE部 リードパートナーソリューションアーキテクトの豊嶋依里氏だ。現状、新しいアプリケーションの開発ではコンテナ化が進んでいる。AIのアプリケーションも、コンテナ化でよりGPUを効率的に利用できることとなる。「コンテナ化すれば、GPUを活用するアプリケーションを1つのインフラにまとめられます。さらにコンテナ特有の可搬性の高さで、どのインフラで稼働させるのかを気にする必要がないことも大きなメリットです」と豊嶋氏は言う。
リードパートナーソリューションアーキテクト 豊嶋依里氏
GPUを使いAIワークロードを動かす際に、今後コンテナの重要性はますます高まるだろう。NVIDIA AI EnterpriseをVMware Tanzuと組み合わせることで、vGPUを仮想マシンだけでなくKubernetesのワークロードにも割り当てられる。AI開発環境でKubernetesを活用できれば、AI開発から運用までをシンプル化できるのだ。
さらに「VMware vRealize Operations（vROps）」や「Tanzu Observability」など、仮想化、コンテナ環境の運用、監視ソリューションとも組み合わせられる。これにより、インフラからアプリケーションレイヤーまでの“オブザーバビリティ”も実現可能だ。ビジネスに本格的にAIを活用するためには、運用管理をシンプル化しオブザーバビリティが実現できることも、今後はかなり重要となる。
ところで、AI関連ソリューションのメリットはベンダーから発信されることが一般的だ。その一方で、各ソリューションを顧客企業の状況に合わせどのように導入すれば良いか、そうした情報提供が十分ではないと言うのは、CTCテクノロジー CSサポート テクニカルサポート本部 テクニカルサポート第1部 クラウドサポート課の十河樹氏だ。そのためCTCでは、いち早くVMware向けNVIDIA AI Enterpriseの検証を行い、具体的な導入の難易度などを明らかにしている。
検証では、vSphereの仮想マシンを導入している企業を想定し、そこにNVIDIA AI EnterpriseとVMware Tanzuを活用する環境を構築し、必要な作業の洗い出しを実施。検証前にベンダーからの情報を見た段階では、ハードルが高そうで専門知識が求められるのではと感じていた。しかし実際は「GUIの操作や簡単なコマンドでTanzuの有効化もでき、その先のvGPUのインストール、開発系アプリケーションを使えるようにするところまで簡単に行えました」と十河氏。検証を通じ、これならば顧客への提案も安心できることを感じたと言う。
テクニカルサポート第1部 クラウドサポート課 十河樹氏
一方で、今回の検証がアーリーアクセス段階での取り組みだったこともあり、ドキュメントなどの情報が十分になかったと振り返る。「操作などでわからないこともありましたが、それらについてはNVIDIAやVMwareから迅速に回答が得られました」と十河氏。対応の早さからも、ベンダー同士の連携がしっかりとれていることがうかがえるとも言う。
また、今回の検証を通じNVIDIA AI Enterpriseの環境をより活用するには、vROpsやTanzu Observerbiltyを使いKubernetesのコンテナやvGPUの監視まで実現することが、今後は必須になりそうだとも指摘する。「vROpsに関しては、インフラ管理者が欲しい情報を一括で得られるのは大きなメリットです。Tanzu ObservabilityはKubernetesの上のアプリケーションの情報収集にかなり便利で、こちらはAI開発者にも嬉しい機能でしょう」（十河氏）。
現状、AI開発環境は利用者ごとにサイロ化しているケースが多い。VMware向けNVIDIA AI Enterpriseであれば、企業全体としてAI開発環境を統合化し運用管理も集約できる。AI開発環境をプラットフォーム化して、vGPUまで含めて一括管理できることは「マルチテナントなどで複数部署にまたがり、大規模にAI開発を行いたいとのニーズにも十分に応えられます」と加藤氏も述べる。
