富士通は10月16日に記者会見を開催し、産学組織9者で共創して偽情報対策プラットフォームの構築を開始すると発表した。
今回のプロジェクトは、内閣府や経済産業省、その他の関係府省が連携し、経済安全保障の強化、推進に向けて創設した「経済安全保障重要技術育成プログラム」のもと、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」に、富士通が採択されたことがきっかけとなる。富士通は、プライム事業者として偽情報検知と評価に関して知見を持つ国内のアカデミアや企業を再委託先として選定し、情報・システム研究機構 国立情報学研究所（NII）、日本電気（NEC）、慶應義塾大学SFC研究所、東京科学大学、東京大学、会津大学、名古屋工業大学、大阪大学の9者によるオールジャパン体制でプロジェクトを進めるとしている。
同プロジェクトの背景として、富士通 データ＆セキュリティ研究所 リサーチディレクター 山本大氏は、生成AIやコミュニケーションツールの発展により、偽情報がより拡散しやすい環境が生まれていることを指摘。「偽情報は、一度広まると不安感からの情報の拡散や行動の混乱が起きやすくなる」と懸念を示した。
こうした課題の解決に向けて、同プロジェクトでは「インターネット情報に対し、第三者の情報／評価などを根拠として紐づけ、情報の真偽を分析する」アプローチを取るという。山本氏は「国内屈指のアカデミアや企業によるオールジャパン体制で、偽情報の検知から根拠収集・分析・評価までを統合的に行う点で、世界初の試みになります」と強調した。
偽情報対策プラットフォームは、様々な根拠の関係性を「根拠・エンドーズメントグラフ」で統合し、これらの整合性や矛盾を分析することで真偽を判定し、社会への影響度を評価するもの。山本氏は同プラットフォームの全体像として下図を示した。
[クリックすると拡大します]
9者は、同プラットフォーム実現のために偽情報の検知（技術1）、根拠収集・統合管理（技術2）、総合的な分析（技術3）、社会的な影響度評価（技術4）に関する各種技術の研究開発を開始するという。同時に、富士通はこれら技術の統合と体系化、並びに偽情報対策プラットフォーム全体の構築を担当するとしている。各技術の詳細と役割は以下のとおり。
技術1：メディアデータごとの情報分析と偽情報検知（担当：NII、NEC）
NIIは、真偽判定の対象となるSNS投稿などの情報を構成するメディアデータ（画像、映像、音声）に対し、昨今拡大するディープフェイクを用いた意図的な偽情報を検知する技術に加え、改ざん箇所や生成手法を判定の確信度を含める形で推定。これらを根拠情報として出力する技術を開発する。
NECは、画像、映像、音声を含む内容をテキストとして抽出するメディア理解技術を開発し、SNS投稿文との一致分析や、根拠情報の収集に活用する。
技術2：根拠、エンドースメント管理（担当：慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科）
SFC研究所と富士通は、技術1から出力される分析結果に加えて、インターネット上から収集した様々な根拠情報の関係性を「エンドースメントグラフ」として統合。構造化した上で蓄積、総合的な真偽判定支援や影響度評価において活用可能にする技術を開発する。
大阪大学大学院情報科学研究科は、根拠情報の一つとなるIoTセンサーデータの収集技術を開発する。真偽判定の対象エリアの情報を網羅的に取得できない場合に、近隣エリアの取得可能な情報群から、対象エリアの根拠情報を推定し、根拠情報として出力する技術の開発を進める。
技術3：総合真偽判定支援（担当：富士通、名古屋工業大学）
富士通は、技術2のエンドースメントグラフから、大規模言語モデル（LLM）などの活用により、真偽判定の対象情報に紐づけられた根拠の整合性や矛盾を分析。判定結果とともにユーザーに分かりやすく根拠を説明するといった総合的な真偽判定支援を行う技術を開発する。さらに、日本語データを中心に学習したLLM「Fugaku-LLM」や、エンタープライズ向け日本語特化型LLM「Takane」の開発技術を活かし、偽情報対策に特化した日本語LLMの開発を進める。
富士通と名古屋工業大学は、ユーザーの心理的要因（誤情報持続効果など）を考慮した認知科学に基づくユーザーインターフェース、情報提供技術を開発する。これによりユーザーが正確に情報の真偽を判断し、不用意に情報を拡散しないようにするなど、適切な行動を促せるという。
技術4：偽情報影響度評価（担当：東京科学大学、東京大学、会津大学）
東京科学大学、東京大学、会津大学は、SNSデータからメッセージの情報源、情報内容、社会的文脈に着目し、LLMを拡張して偽情報評価用AIモデルを構築する。たとえば、過去の偽情報との類似度や拡散速度などの偽情報の特徴を分析し、拡散規模や社会的な影響度などの指標を評価する技術開発を進める。
なお9者は今後の予定として、2024年度は民間企業・公的機関向けユースケースの分析と機能要件の抽出を行うとともに、各技術の研究開発を行っていくとした。そして、2025年度末までに偽情報対策プラットフォームを構築することを目指すとしている。
