ソニーグループ全体に内製環境「Enterprise LLM」を展開中
ソニーグループの事業内容は、エレクトロニクスからゲーム、音楽、映画、金融、半導体に至るまで多岐にわたる。2023年初めから取り組みを開始した生成AI活用でも、部署名（グループフェデレーテッドガバナンス部）の通り、各事業の自律を尊重しつつ、共通化するべき所は共通化し、グループ全体の競争力を最大化することを目指している。最初に登壇したソニーグループ DXプラットフォーム統合戦略部門 グループフェデレーテッドガバナンス部 統括部長 大場正博氏は「私達はクリエイティビティとテクノロジーを重要な競争力と捉えている。いかにスピード感を持ってこの変化に対応していくか。各事業部と共に活動を開始した」と述べた。
ソニーグループでは、生成AI活用の取り組みにおいて、まず「Democratization（民主化）」に注力した。その中核的な役割を担っているのが、グループ内で「Enterprise LLM」と呼ばれる環境だ。Enterprise LLMは、生成AIがもたらす機会とリスクを正しく理解した上で、グループの全社員が安全に生成AIを利用できるように内製化されたものである。ビジネスユーザーから見ると、OpenAIのChatGPTに似たアプリケーションの使い勝手だが、大場氏はEnterprise LLMの提供コンセプトを「安心して業務で生成AIを活用できる体験と実践の場」とし、社内のデータを有効活用できるよう、利用ガイドラインの整備に加えて、ガードレール（悪用を防止する対策）を施すなど、セキュリティ対策を重視していることを強調した。
また、Enterprise LLMは「マルチクラウド」「マルチLLM」「オートスケール」を核に設計しているという。既に30以上のLLMやText-to-Imageモデルをサポートしており、ビジネスユーザーは自分の業務内容に応じて自由にモデルを選択できる。また、モデルがアクセスするデータも、社外秘文書や秘文書のような機密度の高いものを利用できるようにしている。
生成AIテクノロジーの進化は目覚ましく、特定のクラウドや基盤モデル（LLM）に限定するのではなく、それぞれの長所を理解し活用することが現時点では最適だと判断されている。大場氏は、「グループとして必要だと判断した際にはいつでも戦略転換できるような環境を意識して運用している」と述べ、柔軟な対応を重視していることを示した。2024年4月時点では、国内でのEnterprise LLM展開がほぼ完了し、現在は米州と欧州拠点への展開を進めている段階だ。グループ会社44社の社員がこの環境にアクセス可能となっており、利用者数と推論数は右肩上がりで増加している。アクティブユーザー数は14,000人を超え、日々数万件もの生成リクエストが処理されているという。
民主化の次のステップに見据えるPoCとビジネス適用
グループ全体でEnterprise LLMの利用が可能になれば、部署の特性やユーザーの役割に応じて、生成AIの活用シーンは大きく変化すると予想される。すでに、本社部門では情報の整理や翻訳を中心に業務効率化を図る使い方が多い一方で、新規事業の創出やクリエイティビティが求められる部門では、新しいアイデア創出のような用途で利用される傾向が見られる。大場氏は、「ある部署のベストプラクティスが、他部署にとって貴重な気づきになる可能性がある。そのため、部署間の情報交換を促進するコミュニティ活動にも力を入れて支援している」と説明し、グループ内でのナレッジ共有の重要性を強調した。
また、「民主化を進めるにあたっては、継続的な改善を通して、常に新しい機能を提供し続けることが重要」と大場氏は続ける。ソニーグループのEnterprise LLMでは、運用でもデータドリブンアプローチとAIを活用しているのが特徴で、システム全体を丁寧にモニタリングするObservation（観測）を重視している。運用で得られたデータは、ユーザーの利用方法を把握するための貴重な情報源となる。このデータを分析することで、機能改善の方向性を決定したり、生成AI活用の効果を経営陣に説明したりする際に役立てることができる。
そのため、システムログのモニタリングに加えて、ユーザーが入力するプロンプトもAIで分析している。これにより、匿名性を確保しつつ、Enterprise LLMがどのように活用されているかを把握することが可能になった。大場氏は、「このようなアプローチを取ることで、ソニーグループでは各拠点レベルでシステムを停止させることなく、新機能のリリースを実現できた」と、継続的な改善の成果を強調した。
ソニーグループでは、民主化に注力してきたが、さらにその先のステップとして「Business PoC（部署固有のニーズに対応するカスタマイズ）」と「Business Adoption（実ビジネスへの適用）」も視野に入れている。大場氏のチームでは、70を超えるビジネス部門からのPoCを並行して実行しているという。しかし、部署ごとのカスタマイズ要件をグループ共通環境であるEnterprise LLMに反映させることは容易ではない。この課題を解決するために、同プラットフォーム上に「プレイグラウンド」と呼ばれる柔軟な環境を用意した。
Enterprise LLMでは、用途別にLLMのパラメーターやシステムプロンプトを最適化し、変更ができないようにしているが、プレイグラウンドではモデルの変更や項目変更の制限がない。「JSON形式の簡単なテキストファイルでの制御を可能としており、この機能を使って、Business PoCがかなり速く効率的に進められるようになった。Business PoCで求められる独自のRAG（Retrieval-Augmented Generation：検索拡張生成）の追加、UXの変更、複数のAIを連動させるようなワークフローの機能も、プレイグラウンド環境で試すことができる」と大場氏は説明した。
