カラクリは、アマゾン ウェブ サービス ジャパン（AWS）の「AWS LLM 開発支援プログラム」を活用し、700億パラメーターのLLMを開発した。
同社は、2023年9月にAWS LLM 開発支援プログラムに採択され、700億パラメーターの開発に着手。開発にあたっては、AWSの機械学習トレーニング用のアクセラレーターである「AWS Trainium」を活用したという。今後、改良を重ねてカスタマーサポート特化型LLMへと精度を高めていくとしている。
なお、同モデルは「Llama2」をベースとした事前学習を行っており、カラクリの独自データを用いてファインチューニングを行っているとのことだ。
カラクリは、同モデルを公開可能な形に修正し、近日中に公開する予定だとしている。
【関連記事】
・明治安田生命、生成AI活用でQ&A作成業務を約40％省力化 カラクリと協働で
・カラクリ、企業独自の大規模言語モデルを構築できる新サービス「Custom LLM」提供
・URL入力でチャットボット完成──カラクリ、GPT活用した「チャットボットメーカー」公開
