AMDのCIOに尋ねる──企業の価値をAIが左右する今、その裏方を支えるIT部門をどう評価すべきか？

AIのトークンが高すぎる問題、AMDとCiscoは「トークンを使いながら再生成する」仕組みを構築中

　両氏は最後に、AI利用における「トークンの経済性」について議論した。従業員がAIを積極的に使うよう社内で促せば、当然ながら利用コストも増えていく。

　最新のAIモデルを使う場合、一人あたり週に200ドル（約3万円強）支払っても控えめなくらいだ。仮に週200ドルを50週続ければ1万ドル（約160万円強）。これをAMDの従業員数約4万人で計算すると、年間4億ドル（約650億円弱）に達する。このガバナンスを無視しないわけにはいかないだろう。

　この難題に対するAMDの答えが、「トークンを外部から買う“消費者”で終わるのではなく、自らも“生成者”にもなる」という発想だ。外部の最新AIモデルに処理を依存しつづければ、課金は膨らむ一方である。そこで、自社データセンターから手元のノートPCまで、社内環境すべてにAIモデルを配置し、そこで処理を回してトークンを自前で生み出す仕組みづくりを始めているという。

　リクエストごとに、処理先は自動で振り分ける。軽い処理は手元のPCや自社データセンターのAIモデルに任せ、最高性能を要する処理だけを外部の最新AIモデルへ任せる。実は、この取り組みはCiscoのチームと協働して進められている。さらにトークンの経済性の問題が顕在化する事態に備え、先手を打つための取り組みである。

　これと同時に取り組むべきこととして、ランジャン氏は「インフラ運用の抽象化」を挙げる。そして、Ciscoが今年のCisco Live!で発表した統合運用プラットフォーム「Cisco Cloud Control」を高く評価した。

　今日のITインフラは、ワイヤレス、キャンパスネットワーク、データセンター、WANルーティングと、それぞれ別々の構成に分断されている。この環境下では、問題が発生するたびにインフラ全体を渡り歩かなければ、その全体像がつかめない。たとえば、ある部署が使っているデスクトップ上でAIエージェントのパフォーマンスに問題が発生した際、IT担当者はいったいどこを見ればよいのだろうか。手元のPCからデータセンターまで、すべての環境と管理画面を行き来しながらCEOに説明するのは無茶な話だ。

　この話を聞けば、可視性を担保する層（レイヤー）を一枚かぶせることの重要性が理解できるだろう。運用の抽象化とは、この可視性を確保することである。AI時代のフルスタック・インフラを管理する上ではもはや必須といってよい。

　Cisco自身も、かつては製品ごとに事業部門が分かれており、内向きの状態に苦しんでいた。つまり、同社の製品を利用する顧客も、その製品ごとにCisco内の異なる担当者に問い合わせるような状況が発生する場合があった。「Cisco Cloud Controlを開発したことで、Cisco自身もまた統合的に顧客の課題を見れるようになった」とパテル氏は語る。