情シスを悩ます複雑なGPU運用をどう統制すべき？リソースの仮想化と一元管理で実現するAIインフラ刷新

日本企業が見落としがちな「AI特有のインフラ運用要件」

　近年、生成AIをはじめとした高度なAI技術が急速な進化を遂げ、企業のDXをけん引する中核技術として位置付けられるようになった。今や多くの企業が業務効率化や新たなビジネス価値の創出を目指し、AI導入に向けたPoCへ乗り出している。しかしその熱意とは裏腹に、本番環境への導入フェーズでコストやセキュリティ、ガバナンスといった壁に直面し、停滞してしまうケースも少なくない。

　こうした現状について、モルゲンロット 中村昌道氏は、企業が直面している本質的な課題を次のように指摘する。

　「多くの企業が積極的にAI導入を進めていますが、具体的にどういったニーズに対してどのようなAIを使うべきかの精査が不十分なまま、結局はコストやセキュリティ、ガバナンスなどの課題に阻まれてPoC段階で終わってしまうケースが散見されます。

　たとえば、ハイパースケーラーのAIサービスを大々的に導入すると多額のコストが発生します。そのため、コスト効率を求めて自社でGPUサーバーを導入し、AIモデルをローカル運用しようとしても、その性能を最大限に引き出すには高度なノウハウが必要。その壁を乗り越えられず、結果としてプロジェクトが頓挫してしまうケースが多く見受けられるのです」（中村氏）

　また、データの保存場所やインフラの管理手法など、従来のデータ活用ソリューションとは異なるAI特有の運用要件についての議論が不足していることも、本番稼働への移行を阻む大きな要因だと同氏は指摘する。

　一方、AI製品のディストリビューターとして企業のAIインフラ構築を支援してきたSB C&S 村上正弥氏も、情報システム部門が直面する運用面の壁について、警鐘を鳴らす。

　「AIという新しいテクノロジーを既存のビジネスプロセスに組み込む際には、アプリケーション層だけでなく、インフラストラクチャ層のアーキテクチャや運用体制そのものを根本から見直す必要があります。特に、AIの性能を左右するGPUリソースは非常に高価であり、適切なサイジングと効率的なリソース配分ができなければ、投資対効果を証明することは極めて困難になります」（村上氏）

コスパに優れた「SLM」に脚光、しかしこれにも落とし穴が……

　AI導入の障壁となる課題の中でも、特に多くの企業を悩ませているのが、パブリッククラウドにおける利用コストの高騰だ。初期投資を抑えるためにクラウドベースのAIサービスから利用しはじめたものの、利用部門の拡大とともに想定以上にコストが膨らみ、予算を圧迫する事態が頻発している。

　「AIエージェントや推論モデルなどの業務利用が拡大し、AIへのリクエスト回数やトークン消費量が急増したことでパブリッククラウドの利用コストが高騰。これが原因で“オンプレミス回帰”を指向する企業も増えています。また、全部門でAIを活用しようとする動きが強まる中、情報システム部門だけではGPUリソースの管理が限界に達しつつあるという、運用体制に関する課題も数多く耳にします」（村上氏）

　こうした問題に加えて、企業がAIを安全に活用するうえで避けて通れないのが、セキュリティとガバナンスの課題だ。利用者が情報システム部門の管理を通さずに外部のAIサービスを利用する「シャドーAI」が蔓延すれば、企業の機密情報や顧客データが意図せず外部に流出してしまうリスクが高まる。

　さらに、AIが事実に基づかない不正確な情報を生成してしまうハルシネーションの問題や、学習・推論に用いるデータを物理的にどこに配置すべきかという「データ主権」の問題も、エンタープライズ企業にとってはクリティカルな要件となる。

　そのほか、パブリッククラウドを利用する場合でも、AIへのリクエスト内容を事前にチェックし、不適切なプロンプトや機密データの送信を遮断するガードレールの仕組みが必須となる。しかし、これらをオンプレミス環境で実現しようとすれば、自社で独自のルールを策定し、強固な制御メカニズムをゼロから構築しなければならないという新たな負担も生じる。

　このような課題を背景に、AIを支えるインフラの要件は現在、大きな転換期を迎えつつある。すべての業務を単一の巨大な大規模言語モデル（LLM）で処理しようとするアプローチは、コストとパフォーマンスの両面で限界があるだろう。そこで、日常的な定型業務や特定の専門領域においては、小規模言語モデル（SLM）と呼ばれる用途に特化した軽量モデルを採用し、それらをワークフローとして連携させる手法が主流になりつつあるようだ。

　ただし、モデルやサーバーが分散すればするほど、リソース管理や既存システムとの連携はより一層複雑化し、情報システム部門に重い負担を強いることにもなる。

複雑化するAIインフラ運用には「仮想化」と「制御」で応える

　こうした複雑化するAIインフラの運用課題に対するブレイクスルーとして注目を集めているのが、モルゲンロットのGPUサーバー制御ツール「TailorNode」だ。同ソリューションは、複数のGPUサーバーで構成されるクラスター全体を仮想化し、抽象化されたリソースプールとして一元管理することを可能にする。

　「TailorNodeは、企業が自社内で運用するGPUクラスターを仮想化し、必要な部門や人に、必要なタイミングで必要な分のGPUリソースを割り当てることができる制御ツールです。セキュリティ面でも、仮想ネットワークを構築することで、企業や部門間の通信を分離しています。さらに、コンフィデンシャルコンピューティングを活用して使用後のメモリ領域をクリアし、データ漏洩やプロンプトインジェクションのリスクを根本から防ぎます」（中村氏）

　このようにハードウェアの物理的な制約にとらわれることなく、動的かつ柔軟にGPUリソースをプロビジョニングできる点は、情報システム部門の運用負荷を大きく軽減させるだろう。また、セキュリティ対策についてもTailorNodeは高度な機能を実装しており、企業内や部門間でのネットワーク通信を分離する仮想ネットワークを構築するだけでなく、GPUサーバー同士の直結ネットワークの分離の仕組みまで実現している。

　さらには、サーバー側のメインメモリおよびGPU側のvRAMの両方において、処理完了後のメモリ領域をクリアする機能も備えている。これにより、異なるユーザー間でデータが残留することによる情報漏洩の脅威をハードウェアレベルで排除する。

　加えて、海外へデータが流出することを懸念する国内企業に向けては、モルゲンロットが運営するサービス「Cloud Bouquet」を通じて、国内リージョンに限定して他社が運用するGPUリソースを調達できる仕組みも提供している。これにより、自社でGPUクラスターを導入する余力がない企業でも、データ主権のリスクを回避しながら効率的にGPUリソースを調達することが可能になる。

　なお、昨今はGPUリソースをAIモデルの推論処理に特化して利用するケースが増えていることから、OpenAI準拠のAPIインターフェースを通じてトークン単位での処理を提供する「Token as a Service（TaaS）」への対応も進められている。同社が2026年10月にリリースした新サービス「Tokran（トークラン）」は、API連携のみで高度なAIモデルを呼び出せる機能を提供することで、企業がより迅速かつ手軽にAIを業務に組み込めるようにしているという。

大手自動車メーカーなどで運用管理の効率化とコスト削減を実現

　一方、いかに優れたAI基盤ツールが存在しても、それを自社の要件に合わせて適切に設計し、スムーズに導入・運用していくためには、高度な専門知識と豊富な経験が必要になる。ここで重要な役割を果たすのが、TailorNodeやCloud BouquetをはじめとしたAI製品・サービスのディストリビューターとして企業のAIインフラ構築を伴走支援するSB C&Sの存在だ。

　村上氏は、AI活用に取り組む企業や、こうした企業に製品・サービスを提供する販売店に対して同社が提供する価値について、次のように説明する。

　「弊社では、製品導入前の支援から手厚くサポートを行っており、GPUサーバーの貸出機を用いたPoCや検証支援、自社環境に最適な構成提案などを実施しています。提案や検証の過程で発生する技術的な課題について、メーカーと連携しながら解決を支援するほか、AIインフラに関するハンズオントレーニングも提供していますので、AIインフラの構築経験が少ない企業や販売店であっても、弊社にご相談いただければ適切な解決策をご提案できます」（村上氏）

　今回紹介したTailorNodeに関しても、既にSB C&S社内で技術検証を済ませており、その過程で培ったさまざまなノウハウを生かしながら販売店やユーザー企業をサポートしていくという。

　なお、TailorNodeをはじめとするモルゲンロットのソリューションは、既に多くの国内企業に導入されている。たとえば、宇宙航空研究開発機構（JAXA）との共同研究において、スーパーコンピュータ基盤のマネジメントに活用されているほか、武田薬品工業や三菱商事などが参画する製薬クラスター「湘南ヘルスイノベーションパーク（湘南アイパーク）」向けには、NTTとの協業によりGPUサーバーを専用線経由でセキュアに分割提供する先進的な取り組みも進められている。

　さらに、自動車メーカーをはじめとする大規模な製造業や、膨大なデータを扱うコールセンターのバックエンド運用など、幅広い産業分野でAIインフラにおける運用管理の効率化とコスト削減効果が実証されているという。

　モルゲンロットではこうした実績を踏まえ、今後さらに多くの国内企業のAI活用をSB C&Sとともに支援していく構えだ。

　「AI基盤を国内企業がよりうまく活用できるよう、この技術をさらに広く普及させていきたいと考えています。私たち自身も開発においてさまざまな苦労を経験してきたため、コストやセキュリティ、パフォーマンスの面でお悩みがあれば、まずは一度ご相談いただければと思います。SB C&S様との強力なタッグで、現在多くの企業が抱える『AI基盤運用の複雑さ』の課題を解決できると確信しています」（中村氏）