東大・江崎教授×IBM・藤田氏と考える、AI時代のITインフラはどうあるべきか？　

AIインフラの現在地は？　「ハイブリッドAI」にシフトする動きも

谷川 耕一氏（以下、谷川）： 本日は「AI時代のITインフラはどうあるべきか」と題して、パネルディスカッションを進めていきたいと思います。モデレーターを務めます、ITジャーナリストの谷川と申します。早速ですが、企業におけるAI活用が進んでいる中、現状のAIインフラはどのような状況にあると捉えていらっしゃいますか。

江崎 浩氏（以下、江崎）：かつて、IBMがチェス王者にAI（チェス専用スーパーコンピューター「ディープ・ブルー」）で勝利し、Google（DeepMindが開発した「AlphaGo」）が囲碁チャンピオンを下すと、「人間を超えることができる」という象徴的な出来事となりました。そして、ChatGPTなどの生成AIが登場してからAIは加速度的に進化していき、インフラへの投資規模も大きく変わっています。その波にハイパースケーラーが乗ったことから、クラウド集中型のインフラが発展してきたと考えられます。

藤田 一郎氏（以下、藤田）：Transformerを用いたLLM（大規模言語モデル）が登場してきた2021年頃から、インフラの捉え方は大きく変わりました。GPUを大量に使い、データを与えれば与えるほど性能が上がるという、LLMの特徴が明らかになったからです。われわれが機能要件・非機能要件のバランスを見ながらCPUやメモリを緻密に構成していた従来の考え方から、「とにかく大きければいい」という世界に2022年頃から突入していったのです。

谷川：AIの性能はGPUをたくさん使うことで担保されていますが、この状況を企業はどのように受け止めるべきでしょうか。

江崎：2025年の夏頃から、数十ビリオン程度のモデルであれば巨大なデータセンターでなくとも動く、つまり「プライベートAI」が実現できることが明らかになりました。ハードウェアとソフトウェアが進歩したおかげで、「AIは数十メガワットの電力がなければ動かせない」という数年前の常識が変わってきています。企業インフラという観点では、今年は大きく変わる最初の年、いわゆる元年になるのではないかと思います。

藤田：IBMでは、数年前から「フューチャー・オブ・コンピューティング」を掲げ、大きく3つのコンピューターを組み合わせる構想を示してきました。数学を元にしたノイマン型の古典コンピューター、物理学をベースとした量子コンピューター、そして生物学を元にしたニューロンチップです。2025年には「NorthPole」という低電力で推論できるチップ、「Telum」のような推論ロジックを埋め込んだプロセッサが出荷されています。低電力かつオンチップで推論できるような環境が整えられている状況です。

江崎：企業にとって、AIインフラのコスト負担は大きな問題です。自社でオンプレミス環境を保有するためには大きな投資が求められ、ハイパースケーラーのクラウドを使いつづければ課金額は膨らみます。さらに、GPUは高額になり、データセンターの建築資材や人件費も上がり、さらに電気代も上がっていますよね。そこで、Googleなどは風力や太陽光などの石油価格に依存しないエネルギーを確保することで、長期的なPL（損益）を見通せるようにしました。日本企業も余剰資金を投資に回し、安定したコストの中でインフラを動かしていくという選択肢について、彼らのやり方を参考にして考えるべきです。

藤田：われわれはすべて自社で抱え込まず、「ハイブリッドクラウド＆AI」のコンセプトの下、AWSやGoogleなどの他社とも組みながら製品・ソリューションを提供しています。お客様の要件次第ですが、製造業などでは、オンプレミスにオープンソースのLLMを置き、クラウドにフロンティアモデルを置く、いわゆる「ハイブリッドAI」に取り組んでいます。センシティブな情報をクラウドに上げず、課金を抑えるために「AIゲートウェイ」のような仕組みを入れることも検討されています。モデルの学習環境は高価なGPUに依存しつつも、推論環境は高効率なチップで処理するような方向性に進展することでしょう。