ELYZA、日本語版の医療特化LLM基盤を構築　gpt-4oなど超える性能も確認

　ELYZAは、内閣府が設置した「戦略的イノベーション創造プログラム（SIP：エスアイピー）」が公募したSIP第3期補正予算「統合型ヘルスケアシステムの構築における生成AIの活用」のうち、テーマ１「医療LLM基盤の研究開発・実装」における研究開発課題「日本語版医療LLMの開発ならびに臨床現場における社会実装検証」にて、医療領域における国産の特化LLM基盤の開発を担ったとのことだ。

　同研究において構築した日本語版医療LLM「ELYZA-LLM-Med」シリーズは、総合点で国内最高性能を達成し、現場の医療タスクにおいてはグローバルトップ水準を超える精度を実現したとのこと。また、今回の特化LLM基盤開発において使用し、有効性を検証したアプローチは、特定の領域における特化モデル開発において汎用性の高いアプローチであり、多くの領域で横展開が可能との見解を述べている。

　なお、同プロジェクトのメンバーとして、さくらインターネットの組織内研究所であるさくらインターネット研究所が研究代表として共同研究機関を統括し、ELYZAと東京大学松尾・岩澤研究室が医療特化型LLMの開発を、ABEJAがデータの調達や加工・LLMシステムの開発を担当したという。また、個人情報を扱う場面では理化学研究所にて検証を行ったとしている。今回焦点を当てるユースケース群については、国際医療福祉大学や藤田学園 藤田医科大学などの医療機関と連携しながら、データの取得や加工を行ったという。

　同研究では、①各ユースケースの基盤となる日本語版汎用医療LLMの開発と、②各ユースケースを解くための日本語版汎用医療LLMの適合（【ユースケース1-電子カルテ標準化のための情報変換】【ユースケース2-レセプト（診療報酬明細書）の確認修正内容の提案】）に向けたモデル開発を行ったとのこと。最終的な開発モデル群は以下のとおり。

• ELYZA-LLM-Med：今回ELYZAが開発した日本語版医療特化LLMシリーズの総称
• ELYZA-Med-Base-1.0-Qwen2.5-72B：各ユースケースの基盤となる日本語版汎用医療LLM。海外製のオープンなモデルである「Qwen2.5-72B-Instruct」をベースに、複数の医療関連コーパスを用いた継続事前学習を行ったモデル
• ELYZA-Med-Instruct-1.0-Qwen2.5-72B（UC1）：「ELYZA-Med-Base-1.0-Qwen2.5-72B」に追加の事後学習（SFT）を行い、【ユースケース1-電子カルテ標準化のための情報変換】に適合するよう調整を施したモデル
• ELYZA-Med-Instruct-1.0-Qwen2.5-72B（UC2）：「ELYZA-Med-Base-1.0-Qwen2.5-72B」に追加の事後学習（SFT）を行い、【ユースケース2-レセプト（診療報酬明細書）の確認修正内容の提案】に適合するよう調整を施したモデル

　医師国家試験ベンチマーク「IgakuQA」において、ELYZA-Med-Base-1.0-Qwen2.5-72Bは国内最高性能を達成したという。

　【ユースケース1-電子カルテ標準化のための情報変換】では、ELYZA-Med-Instruct-1.0-Qwen2.5-72B（UC1）はOpenAIの「o1（2024-12-17）」を超える性能を達成したとのことだ。

　【ユースケース2-レセプト（診療報酬明細書）の確認修正内容の提案】では、「修正要否の精度」「​​コメントの質」の双方において、ELYZA-Med-Instruct-1.0-Qwen2.5-72B（UC2）がOpenAIの「gpt-4o（2024-11-20）」を超える性能を達成したとしている。

　開発にあたっては、今後の医療DXを牽引していく技術基盤として、より多くのユースケースに対応すべく、まず根幹となる日本語版汎用医療LLMを開発し、それをベースに各ユースケースへ適合させるアプローチを取ったという（図1）。

　単一のユースケースに閉じた場合でも、医療という専門的なドメインにおいて要件定義やデータ整備を行うことは容易ではないとのこと。そのため、ユースケース間で開発の足並みが揃わない可能性を考慮し、共通部分をあらかじめ学習させることにしたとのことだ。

　また、オープンなモデルに関する国内外の開発状況を踏まえると、モデルの基本性能は今後も頻繁に改善されていくと考えられるため、継続事前学習を採用し、今後も高性能なモデルを効率的に作成し続けることを可能にしたと述べている。

【関連記事】
・ELYZA、デジタル庁からの受託で行政組織における生成AIの利用環境整備を支援
・ELYZAがコンタクトセンターに特化したLLMプロダクト提供へ　オペレーション高度化でCX強化目指す
・ELYZA、新たに日本語LLM構築　複数のベンチマークで「GPT-4（0613）」超えのスコア獲得