Amazonの生成AI、それを支えるAWSのインフラに変化
AWSのCEOであるガーマン氏の基調講演の前半では、LLMのトレーニングとデプロイ向けとして位置付けられた「Trainium 2」の一般提供を発表するなど、ハードウェア側の取り組みがフォーカスされた。
Trainium 2は、第1世代と比較してトレーニング処理が最大4倍高速になるなどの特徴をもつとして、昨年のAWS re:invent 2023で発表。そこから1年後、今回の基調講演ではTrainum 2チップを16個搭載した「Amazon EC2 Trn2 Instances」を公表した。最大20.8ペタフロップス（PFLOPS）の演算処理をサポートするという。加えて、64個のTranium 2を独自インターコネクト技術NeuronLinkで相互接続した、「Amazon EC2 UltraServers」も発表した。
これに留まらず、3nmの製造プロセスを用いる「Trainium 3」を計画していることを公表。同時に、新たなGPUインスタンスとして、NVIDIA Backwellを採用した「Amazon EC2 P6 instance」を投入すると明かすと、「NVIDIAのGPUワークロードを動かすという点で、最も良い環境だ」と述べた。
[画像クリックで拡大]
[画像クリックで拡大]
こうした発表は、まさにAWSのIaaSを「AI向けのインフラ」と位置付けるものであり、これが伏線となって、Amazonのジャシー氏が基盤モデル「Amazon Nova」を発表した格好だ。同氏は、2021年までAWSでCEOを務めると、Jeff Bezos（ジェフ・ベゾス）氏の後を継いでAmazonのCEOに就任した経歴をもつ。現地では、ガーマン氏の紹介により登場すると、会場からは大きな拍手が沸き起こった。
[画像クリックで拡大]
冒頭、ジャシー氏はAmazonにおけるAI活用について説明を行った。Amazonでは、25年前から全社でAIを利用しており、「AIをはじめとしたテクノロジーはクールだから、最先端だから使うのではない。『顧客の問題を解決するため』に使うのだ」と強調。「だからこそ、我々がAIを話題にするときは、『チェスの世界チャンピオンに勝った』とかそういう話ではなく、『小売業でのパーソナライズの改善』『配送センターのピッカー最適化』という話になる」と競合であるハイパースケーラーとの違いを強調した。
その姿勢は生成AIでも同じだ。ジャシー氏は、顧客のための実用的な事例をいくつか紹介してくれた。
1つ目はカスタマーサービス。億単位の顧客がカスタマーサービスにアクセスするが、その多くはセルフサービス形式を好む。そこでAmazonがずいぶん前から取り組んでいるのが、チャットボットの提供だ。
当初は機械学習ベースで、静的なディシジョンツリーを用いていたため、回答までに時間を要していたが、2年前に生成AIベースのチャットボットに刷新。使い勝手が大きく改善したとして、「数日前に商品を注文した顧客であれば、その顧客が注文した内容や配送先を把握できる。そのため、『このタイミングで連絡してくるのであれば、返品の可能性が高い』といった予測が可能だ」とジャシー氏。最寄りのWhole Foods Marketなど、返品できる実店舗の場所までも伝えられるという。
なお、生成AIベースの新しいチャットボットは、以前のものと比較して顧客満足度が5%（500ベーシスポイント）改善したとのことだ。
2つ目の在庫管理では、千単位の拠点から顧客に最も近い配送センター（フルフィルメントセンター）に適切な商品を配置するべく、「どの配送センターにあるアイテムが、どのぐらいのペースで注文されているのか。在庫を他のセンターに移動させる必要があるのか」といったことをTransformerモデルを使って分析しているという。「長期需要予測モデルにより、精度が10％改善した。地域別の予測についても20％以上精度が改善している」とも話す。
さらに、配送センター内には合計75万台以上のロボットが稼働している。2023年に導入した「Sparrow」という作業ロボットは、最大12ポンド（約5.4キログラム）を持ち上げることができ、商品の検出・取り出し・分類などの能力を持つ。ここに生成AIを利用することで最初のビン（トレー容器）に何があり、どの商品を取り出すべきか。また、その商品のサイズや材質などから把持方法を判断し、ビンのどこに置くのかを決定することで、人間による梱包の前段階をサポートしているという。
実際にSparrowを含む、新しいロボットが活躍する配送センターでは、処理時間を25％改善、休暇シーズン中のサービスコストを25％削減できたとのことだ。ジャシー氏は「顧客に届けるまでの処理時間、コスト抑制につながっている」と自信を見せる。
また、基調講演ではショッピング向けAIアシスタント「Rufus」、パーソナルAIアシスタント「Alexa」も紹介された。Rufusでは、欲しいものが明確でない場合、実店舗で販売員に相談するような感覚でオンラインショッピングができることを目指したもの。さまざまな質問に回答し、商品の比較や推奨までもしてくれるという。
既にAmazonのデバイスを含め、5億台以上がアクティブなエンドデバイスとして、ユーザーの生活を便利にしているとジャシー氏。「この分野でリーダーになる可能性がある」とも語る。
他にも出品者向けのWebページ作成、コンピュータビジョンを用いる「Amazon Lens」、Prime VideoでNFL（National Football League）と取り組む、「NextGen Stats」を通じたファン体験の改善などでも生成AIの活用を進めているという。
「Amazon内部で構築中または構築済みの生成AIの適用例は、1,000に達しつつある」とジャシー氏。もちろん、ここにはAWSの技術を利用している。
