さくらインターネットとAcompanyは、さくらインターネットが国内データセンターで提供するベアメタル型GPUクラウドサービス「高火力 PHY」のNVIDIA H200環境において、NVIDIA Confidential Computing(NCC)とIntel TDXを有効化した状態で、データセンター運用者から秘匿化した状態を保ちながら、データやAIモデルを秘匿化したままGPUで推論を実行する環境構築の検証に成功した。
NCCとIntel TDXを組み合わせた国内データセンターにおける当該構成の検証事例としては国内初になるとのことだ。
GPUのNCCを有効化した仮想マシンは、これまで一部のハイパースケーラーが米国・欧州などの海外リージョンで提供するものに限られており、国内リージョンで利用する現実的な選択肢が存在しなかった。一方で、データを国内に置いたまま、かつ推論中も秘匿できる計算環境を国内で確保できるかどうかが重要な論点となっていた。
今回の検証における両社の役割は以下のとおり。
- さくらインターネット:国内データセンターで提供するベアメタル型GPUクラウドサービス「高火力 PHY」(NVIDIA H200搭載)の提供
- Acompany:Confidential Computing技術を用いた生成AI実行環境の構築・検証
さくらインターネットの「高火力 PHY」(NVIDIA H200)のベアメタルサーバー上にIntel TDXによるConfidential VMを構成し、その内部でNVIDIA H200をConfidential Computingモードで動作させることにより、データセンター運用者から秘匿化した状態を保ったまま、LLMの推論処理が実行可能となる環境を構築し、GPUにて推論処理が実行できることを確認したと述べている。
主な検証内容
- 「高火力 PHY」(NVIDIA H200)上で、Intel TDX(Confidential VM)とNVIDIA Confidential Computingを組み合わせた起動・動作検証
- CPU・GPUをまたいでデータを秘匿化した状態での推論処理の動作確認
- リモートアテステーション機能の動作確認
これらは、これまで主に海外リージョンで提供されてきたNCC対応GPU環境について、国内データセンターでの実装可能性を検証した成果だという。これにより、機密性の要求が高い金融・製造・公共・防衛などの領域においても、データを国内に保持したまま推論処理中もデータセンター運用者から内容が参照されない形として、安心・安全なAI活用環境を実現できる可能性を示したとのことだ。
【関連記事】
・レノボ、日本初の水冷AIインフラ検証拠点「Neptuneラボ」を開設──印西のMCDRデータセンターでAI推論向け冷却・電力効率の実証環境を提供
・AI insideが国内データセンターを「AI Factory」に転換させる新プロジェクト始動
・NTTデータグループ、印西・白井にデータセンターを新設へ 2030年以降の提供開始目指す
この記事は参考になりましたか?
- 関連リンク
- この記事の著者
-
EnterpriseZine編集部(エンタープライズジン ヘンシュウブ)
「EnterpriseZine」(エンタープライズジン)は、翔泳社が運営する企業のIT活用とビジネス成長を支援するITリーダー向け専門メディアです。データテクノロジー/情報セキュリティの最新動向を中心に、企業ITに関する多様な情報をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア
