「GPUが足りない」の盲点、高額なリソースを100%使い切る　鍵は“国内分散”、ソブリンとコストにも

非開発部門でもGPUリソースが必要に　複雑化する運用管理をどう乗り越える

　続いて登壇したSB C&Sの村上正弥氏は、ITインフラ運用の現場で起きている実情を次のように語る。

　「これまで企業内でGPUを必要とする部門は限られていましたが、最近ではAIの開発を行っていない部門でもGPUを使うケースが増えてきました。その結果、GPUのリソースを複数のプロジェクトや部門の間で共有し合うことが増え、GPUインフラの運用が複雑化してきています」（村上氏）

　同氏によれば、GPUインフラの運用現場における具体的な課題は、大きく3つに分類される。1つ目は「共有環境にともなう管理の負荷」である。管理者は、複数のチームに対してどこに、どれだけのリソースを割り当てるのかを常に調整しなければならない。

　2つ目の課題は「リソース払い出しの複雑化」。多くの企業では、利用者がGPUを利用する都度、管理者に申請を行い、管理者が手作業で環境を準備して払い出しを行っている。利用部門の拡大にともない、これらの個別対応がインフラ管理者の業務を圧迫している。

　そして3つ目が、最も深刻な課題である「空きリソースの発生」だ。

　「GPU環境が増えてくるとリソースの空き状況が把握しづらくなり、結果的にGPUが使われることのない時間が増えてきます。GPUは非常に高価なリソースですが、本来必要な利用者に適切に割り振られないという、もったいない状況が発生しています」（村上氏）

　これらの課題を解決するためには、「これまでにない新たなGPUインフラ基盤が求められる」と村上氏は指摘する。そして、その基盤に求められる要件として、環境全体のリソース状態を即座に確認できる「リソース状態の把握」、管理者に依存せず利用者自身で必要な環境を素早く準備できる「利用者に最適なリソースの提供」、そして余剰リソースをなくして効率よく運用するための「リソース活用の最適化」の3点を挙げた。