東大・江崎教授×IBM・藤田氏と考える、AI時代のITインフラはどうあるべきか？　

AI時代に問われる、データの「正確性」と「レジリエンス」　セキュリティに課題

谷川：コストやレイテンシーを考慮すると、クラウドとオンプレミスをうまく組み合わせると良いことがわかりました。では、エッジなどでAIを活用するためのインフラはどうしたらよいでしょうか。

江崎：コンピューターのクロック周波数が上がると、相対的に光の速度が遅くなるため、計算処理は必然的にエッジにならざるを得ません。最近では、IoTデバイスに「HSM（ハードウェア・セキュリティ・モジュール）」を搭載し、デバイスから出力されるデータが改ざんされていないか、ハードウェアレベルで担保する技術も出てきました。昨今、「AI PC」と呼ばれているような端末も、こうしたミッションクリティカルなインフラへ向けたファーストステップとなるでしょう。

谷川：製造業の現場でAIを活用していく上で、セキュリティの観点ではどのような課題があるでしょうか。

江崎：AIで重要になってくるのは「データの正確性」です。AIは忖度せず、言われた通りに動くので、データが書き換えられてしまうと簡単に誤作動を起こし、最終的には事故につながってしまいます。これからの工場はインターネットとつながることを前提にしなければならず、データが正しいかどうかを担保するサイバーセキュリティが極めて重要になります。たとえば台湾最大の半導体ファウンドリであるTSMCがランサムウェアの被害に遭い、大きな打撃を受けた事例もあります。また、バイオエンジニアリングの分野などは人の命に直結するため、既に厳重なセキュリティ体制を敷いています。

谷川：外からの攻撃を防ぐだけでなく、データが正しいかを担保する運用体制や、攻撃された後のレジリエンスも必要ということですね。

江崎：多くの工場は事故が起こらないと思い込んでいますが、事故は起こるものであるという前提に立ち返り、どのように事故から素早く回復できるようにするのかを考えらえるか。そこが重要なファクターとなります。

藤田：IBMでもレジリエンスをとても重要視しています。たとえば、ランサムウェアに攻撃されて想定外の変更が行われたとき、1分以内に侵害を検知し、元のデータに上書きして復旧するようなストレージを提供しています。自動的に判別して回復するための仕組みを構築しておかないと、被害が連鎖して復旧できなくなります。

谷川：では、基幹システムにもAIエージェントがアクセスするようになったとき、そのアーキテクチャや安全性はどのように担保すべきでしょうか。

藤田：今のコンピューターは1964年の「System/360」から約60年、人間が使うことを前提に作られてきました。しかし、これからはAIエージェントが操作することを前提としたアーキテクチャを考えなくてはいけません。AIエージェントにも「ノンヒューマンID（NHI）」を割り振って、人間と同じようにログを取り、意図しない動きをしたときにブロックするような「ガードレール機能」が必要です。そして、AIエージェントが操作するならば、今あるような人間向けのUIも不要になっていくでしょう。IBMでは次世代のアーキテクチャに向けて、ID管理や耐量子暗号のロードマップを描いています。また、HashiCorpという証明書管理に強みをもつ会社や、システム連携に強いConfluentという会社を買収するなど、必要な要素を一つずつそろえている状況です。

江崎：XMLが出てきたときのように、バックエンドで連携してコンピューターが勝手にポータルサイトを作り上げたような革命が、今まさにAIで起ころうとしています。人間がプログラムを書かず、コンピューターが書いてくれる。そのためには、AIエージェントが走り回る環境で何が起こっているのかを理解し、サンドボックスなどで検証できるような知見を持った人材が必要になるでしょう。その傍ら、データに対する「トラストアンカー（信頼のアンカーポイント）」を国際的に作らなければ、データの真正性を担保できなくなります。