野村総合研究所（以下、NRI）とNRIデジタルは、「データ漏洩リスク」を極小化する生成AIソリューション「プライベートLLM」を2024年春以降に提供する予定だと発表した。同ソリューションは、金融機関など、特に高いレベルの情報セキュリティ統制を必要とする企業が利用することを想定しているという。特徴は以下のとおり。
プライベートクラウドやオンプレミス環境で動作
Metaの「Llama 2」を始めとする基盤モデルが公開されたLLMを、NRIのデータセンターで稼働するプライベートクラウドサービスやオンプレミス環境で動作させることで、機密・機微情報を安全に扱うことを可能にする。金融機関などが求める高レベルの情報セキュリティ統制にも対応可能だとしている。
個別企業の業務に合わせてLLMをカスタマイズ
Llama 2など基盤モデルが公開されたLLMの性能は、現時点では外部サービス型LLMには及ばないものの、企業が持つデータを利用してカスタマイズ（プリトレーニング、ファインチューニングなど）することで、タスク内容によっては業務に適用可能な水準の性能を発揮することが期待できるとのこと。同ソリューションでは、機密性が高い学習時点のデータの漏洩リスクも極小化した上で、各社の業務に最も適した形でLLMをカスタマイズするという。
「プライベート音声認識」などの周辺モジュールも提供
LLMに音声認識機能を組み合わせると、たとえばコンタクトセンターや対面での問い合わせ対応など、適用できる業務の幅が広がる。そのため、個人を特定することが可能な音声データの漏洩リスクを極小化するプライベート音声認識モジュールなど、周辺モジュールも提供するとしている。
［画像クリックで拡大表示］
なお、同ソリューションの性能を検証するため、NRIにおいて、社内の会計事務手続きサポート業務に適用した。カスタマイズ用の学習データ6万件を用いて、NRIのデータセンターに設置したGPU上で動作するLlama 2のファインチューニングを行ったところ、業務に適用可能な水準まで性能が向上。その結果、同ソリューションによって当該業務の一部を代替し、Q&A作成の作業時間を60％削減できたという。
【関連記事】
・NRIセキュア、企業のセキュリティリスクマネジメントを支援するインテリジェンスセンター設立
・NRIセキュア、ソフトウェアサプライチェーン領域のリスク対策を支援するサービス提供
・「週3日以上出社」は75％で前年比増、郊外・地方への移住意向は維持──NRI調査
