「GPUが足りない」の盲点、高額なリソースを100%使い切る　鍵は“国内分散”、ソブリンとコストにも

生成AIの普及で顕在化する「GPUインフラ」の課題　価格高騰、電力消費量の増大……

　AIの急速な発展にともない、企業におけるコンピューティング基盤の重要性はかつてないほど高まっている。特に、生成AIをはじめとする高度なデータ処理にはGPUサーバーが不可欠だが、その導入や運用に係る課題が多くの企業・組織で悩みの種となりつつある。

　モルゲンロットの添田貴嗣氏は、企業が直面しているGPUインフラの課題について次のように語る。

　「生成AIの活用にはGPUサーバーが不可欠ですが、現在その価格が非常に高騰しています。また、GPUサーバーが新しくなる度に電力消費量が大きくなっている点も、企業の負担増につながっています」（添田氏）

　電力消費量の増大は、単なるランニングコストの問題だけにとどまらず、社会的な電力不足やCO2排出量の増加を助長すると見られるため、導入ハードルを高くする要因となっている。

　こうした課題を解消するため、現在多くの企業が生成AIのプラットフォームとしてパブリッククラウドを採用している。クラウドには初期導入コストを低減でき、インフラを意識せずにリソースを簡単に拡張できるなど、大きなメリットがある。しかし、クラウドに依存するほど、新たな懸念も顕在化すると添田氏は指摘した。

　「クラウドの利用が広がるにつれ、秘匿性のあるデータをクラウド上で取り扱う機会が増えてきました。しかし、海外ベンダーが運営するクラウドサービスは、現地政府の政策変更やベンダーのポリシー変更の影響を受けてしまい、データが第三者の手に渡ってしまうリスクを完全に排除できません。そのため、クラウド利用における『データの安全保証』、いわゆる『ソブリン』が昨今クローズアップされるようになってきました」（添田氏）

　こうしたリスクを回避しながらデータを確実に守るためには、海外の政府機関やサービス運営主体の影響力が及ばない、国内のデータセンターで管理する必要がある。今企業は、コスト削減と利便性を求めてクラウドへの移行を進めながらも、同時にデータガバナンスや安全保障の観点から、物理的なインフラの透明性と自国・自社内での管理を両立させなければならない複雑な状況に置かれている。

データセンターを巡る“ミスマッチ”を解消できるか　分散型コンピューティング基盤の注目高まる

　GPUインフラに係る課題は、サーバーの問題だけにとどまらず、いまや社会インフラ全体にも及んでいる。その最たるものが、データセンターの立地と電力供給の間に生じている、“ミスマッチ”ともいえる事象だ。

　現在、日本国内におけるデータセンターの多くは首都圏に集中しており、電力消費も首都圏に偏る傾向にある。一方、今後の脱炭素社会に向けて不可欠な再生可能エネルギーの発電施設は、北関東などの地方部に集中している。電力の発電場所と利用場所であるデータセンターの立地がミスマッチを起こしているため、電力の利用効率が思うように上がらない。

　この状況を解消し、効率的かつ持続可能なコンピューティング環境を実現するために提唱されているのが「分散型コンピューティング基盤」だ。

　これは政府が推進する「ワット・ビット連携」と連動するもので、電力が豊富に存在する地方にコンピューティングリソースを配置し、それをクラウドのような形で遠隔地から利用する仕組みである。再生可能エネルギーの「地産地消」を促進することで、CO2排出量を削減しつつ、コストも抑えるメリットがあるという。

　ただし、このような大規模な基盤を構築するためには、解決すべき高い障壁が存在する。添田氏によれば、最大の課題は「1社単独での基盤構築はコストが見合わず、コンピューティングリソースの規模・分布と、利用者の規模・分布が一致しない」点だという。これらの課題を打開するため、モルゲンロットでは次のような解決策を提示している。

　「複数の企業が保有するコンピューティングリソースを各社単独で利用するのではなく、統合管理した上で、企業間で共用できる仕組みを整備していくこと。そして、コンピューティングリソースを保有している企業とそれを利用したい企業を円滑にマッチングする仕組みをプラットフォームとして提供すること。これらの仕組みを通じて、効率的な活用を促進したいと考えています」（添田氏）

　この構想を具現化したプロダクトとして、モルゲンロットは2つのサービスを提供している。一つは、GPUリソースを保有するデータセンターや企業と、それを利用したい企業をマッチングするGPUクラウドプラットフォーム「Cloud Bouquet」だ。利用者は、豊富なメニューから、自社に見合ったスペックとコストを選択して利用できる。

　もう一つは、企業が保有するGPUサーバーのコンピューティングリソースを仮想化技術によって1基単位に分割し、複数のユーザー間で共有可能にするオーケストレーションサービス「TailorNode」だ。

　これを用いることで、企業は場所を問わずに自社のGPUリソースを一元管理でき、社内外の多様なニーズにあわせてコンピューティングリソースを提供できるようになる。

非開発部門でもGPUリソースが必要に　複雑化する運用管理をどう乗り越える

　続いて登壇したSB C&Sの村上正弥氏は、ITインフラ運用の現場で起きている実情を次のように語る。

　「これまで企業内でGPUを必要とする部門は限られていましたが、最近ではAIの開発を行っていない部門でもGPUを使うケースが増えてきました。その結果、GPUのリソースを複数のプロジェクトや部門の間で共有し合うことが増え、GPUインフラの運用が複雑化してきています」（村上氏）

　同氏によれば、GPUインフラの運用現場における具体的な課題は、大きく3つに分類される。1つ目は「共有環境にともなう管理の負荷」である。管理者は、複数のチームに対してどこに、どれだけのリソースを割り当てるのかを常に調整しなければならない。

　2つ目の課題は「リソース払い出しの複雑化」。多くの企業では、利用者がGPUを利用する都度、管理者に申請を行い、管理者が手作業で環境を準備して払い出しを行っている。利用部門の拡大にともない、これらの個別対応がインフラ管理者の業務を圧迫している。

　そして3つ目が、最も深刻な課題である「空きリソースの発生」だ。

　「GPU環境が増えてくるとリソースの空き状況が把握しづらくなり、結果的にGPUが使われることのない時間が増えてきます。GPUは非常に高価なリソースですが、本来必要な利用者に適切に割り振られないという、もったいない状況が発生しています」（村上氏）

　これらの課題を解決するためには、「これまでにない新たなGPUインフラ基盤が求められる」と村上氏は指摘する。そして、その基盤に求められる要件として、環境全体のリソース状態を即座に確認できる「リソース状態の把握」、管理者に依存せず利用者自身で必要な環境を素早く準備できる「利用者に最適なリソースの提供」、そして余剰リソースをなくして効率よく運用するための「リソース活用の最適化」の3点を挙げた。

ポイント制とGUIを活用　リソース最適化と管理者負担の軽減へ

　SB C&Sでは、前述した3つの要件を満たすソリューションとして、モルゲンロットのTailorNodeに着目。その有効性をたしかめるため、自社で技術検証を実施している。TailorNodeは、多数のGPUリソースを利用者が使いやすい単位で切り出し、提供するための統合的な仮想化運用プラットフォームだ。特に「ポイント」と「プラン」という独自の概念を用いてリソースを制御できる点に、その大きな特徴があるという。

　「GPUリソースの利用枠を定義する単位として『ポイント』があり、各チームに対してそれぞれ利用可能なポイントを付与できます。また、GPUリソースの種別や仕様ごとに『プラン』を定義でき、リソースごとに必要なポイントを設定可能です。このポイントとプランの設定により、各チームは自分たちに付与されたポイントを使ってプランを選択し、実際のGPUリソースを払い出して利用します」（村上氏）

　ポイント制を設けることで、特定チームによるリソースの占有や過剰利用を防ぐことができるだけでなく、全社規模での計画的なリソース配分と予算管理が可能になる。また、Webポータルは直感的なGUIで作られており、余剰リソースの状況がカレンダー形式で視覚的に表示されるため、どの日時にどのリソースが空いているのかは一目瞭然だ。さらに、利用者はカレンダーを参照しながら、管理者を通さずに自身でリソースの予約、環境の払い出しを行える。

　加えて、セキュリティ面では、払い出されたインスタンスへの接続に際して、利用者ごとに登録された「キーペア」を使用したSSH接続を採用している。これによりパスワード認証と比べて不正ログインのリスクを低減し、安全かつスムーズにGPU環境へアクセスできるという。

　SB C&Sでは、技術検証によってこれら一連のTailorNodeの機能が正しく利用できることを確認できたため、今後同社が展開するAIソリューションの中核となる製品として大きな期待を寄せているという。

　「SB C&Sでは現在、モルゲンロットの各種製品をはじめAIビジネスに非常に注力しており、AIに関する技術情報もイベント登壇や記事・ブログなどを通じて広く発信しています。もし、何かAIに関する困りごとがあれば、ぜひ気軽にお問い合わせいただければと思います」（村上氏）