情シスを悩ます複雑なGPU運用をどう統制すべき？リソースの仮想化と一元管理で実現するAIインフラ刷新

日本企業が見落としがちな「AI特有のインフラ運用要件」

　近年、生成AIをはじめとした高度なAI技術が急速な進化を遂げ、企業のDXをけん引する中核技術として位置付けられるようになった。今や多くの企業が業務効率化や新たなビジネス価値の創出を目指し、AI導入に向けたPoCへ乗り出している。しかしその熱意とは裏腹に、本番環境への導入フェーズでコストやセキュリティ、ガバナンスといった壁に直面し、停滞してしまうケースも少なくない。

　こうした現状について、モルゲンロット 中村昌道氏は、企業が直面している本質的な課題を次のように指摘する。

　「多くの企業が積極的にAI導入を進めていますが、具体的にどういったニーズに対してどのようなAIを使うべきかの精査が不十分なまま、結局はコストやセキュリティ、ガバナンスなどの課題に阻まれてPoC段階で終わってしまうケースが散見されます。

　たとえば、ハイパースケーラーのAIサービスを大々的に導入すると多額のコストが発生します。そのため、コスト効率を求めて自社でGPUサーバーを導入し、AIモデルをローカル運用しようとしても、その性能を最大限に引き出すには高度なノウハウが必要。その壁を乗り越えられず、結果としてプロジェクトが頓挫してしまうケースが多く見受けられるのです」（中村氏）

　また、データの保存場所やインフラの管理手法など、従来のデータ活用ソリューションとは異なるAI特有の運用要件についての議論が不足していることも、本番稼働への移行を阻む大きな要因だと同氏は指摘する。

　一方、AI製品のディストリビューターとして企業のAIインフラ構築を支援してきたSB C&S 村上正弥氏も、情報システム部門が直面する運用面の壁について、警鐘を鳴らす。

　「AIという新しいテクノロジーを既存のビジネスプロセスに組み込む際には、アプリケーション層だけでなく、インフラストラクチャ層のアーキテクチャや運用体制そのものを根本から見直す必要があります。特に、AIの性能を左右するGPUリソースは非常に高価であり、適切なサイジングと効率的なリソース配分ができなければ、投資対効果を証明することは極めて困難になります」（村上氏）