2024年9月18日、日本電気（NEC）は報道機関向けに説明会「BluStellarを支える生成AI×セキュリティ研究開発の取り組み」を開催。LLMを用いたセキュリティリスクの自動診断に基づく製品開発の進捗状況や、新たに開発を行っている偽・誤情報分析機能、ハルシネーション対策機能の説明およびデモンストレーションが行われた。
同社では、システム・データ・AIの3つの領域におけるセキュリティの研究開発を実施。今回発表された技術は、生成AIがもたらす以下のリスクに対応したものとのことだ。
- 悪用：生成AIを用いた詐欺やサイバー攻撃
- 偽情報、誤情報：ディープフェイクの悪用や偽・誤情報による社会への影響
- ハルシネーション：生成AIが事実と異なることをもっともらしく回答
今回発表された技術の詳細は以下のとおり。
LLMを用いたセキュリティリスク診断
2023年12月に発表した「脆弱性診断」「攻撃ルート分析」などの内容に加え、以下2つの技術を新たに開発したという。
- 対策立案：対策の要望に合わせて効果的な対策の組み合わせを提案
- レポート生成：読み手に合わせて、対応根拠や業界／攻撃者動向などの参考情報をLLMが自動分析し提示
今後は、システム管理者向けのレポート生成サービスを2024年度中に事業化予定とのことだ。また、レポート内容を拡充し、現場で働く人に向けた診断支援や、経営層などへの報告に対するサポートも行うとしている。
偽・誤情報分析
テキスト・画像・動画・音声といった複数の種類のデータで構成される情報コンテンツの偽・誤情報を、生成AIが分析評価する技術を開発中だという。たとえば、音声データに対するアプローチとしては、検証したい音声の内容を自動でテキスト化した後、その内容の正誤を調査し検証。該当する情報が見つからなかった場合は虚偽情報の可能性が高いものと判定されるとのことだ。
同社はこの機能でファクトチェック業務の容易化を目指すとし、今後の動きとしては、年内から実証実験を実施予定だと述べた。
ハルシネーション対策機能
LLMの出力に含まれるハルシネーションを検知する機能を開発中だという。この機能により、ユーザーは生成AIによる要約文書のハルシネーションを確認する作業を効率化できるとしている。具体的には、要約された文書の情報が、元の文書のどの情報から生成されたものかを可視化し、原文にない単語などを検知した場合に警告として提示することで、確認作業を効率化させるという。
同機能は、2024年10月末からの提供開始を目指し、強化機能を順次リリースしていく予定とのことだ。
なお、説明会では「クライアントゼロ活動」にも言及された。社内DXをリファレンス化し、顧客向けオファリングへ反映する同活動をセキュリティ技術においても実践しており、LLMを用いたセキュリティリスク診断において検証を進めているとした。
【関連記事】
・NECと弁護士ドットコム、自治体向け文書管理支援で協業 契約関連業務を一気通貫でデジタル化へ
・NXグループ、NEC協力のもと2028年度末までに400名のDX専門人材育成へ
・NEC、静岡銀行ら10社と「地域金融機関 生成AI共同研究会」設立 金融機関での生成AI実装目指す
