SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

EnterpriseZine Day Special

2024年10月16日(火)オンライン開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

EnterpriseZineニュース

NEC、生成AIの悪用・偽情報・ハルシネーションリスク対応の新技術開発 ファクトチェック業務効率化へ

 2024年9月18日、日本電気(NEC)は報道機関向けに説明会「BluStellarを支える生成AI×セキュリティ研究開発の取り組み」を開催。LLMを用いたセキュリティリスクの自動診断に基づく製品開発の進捗状況や、新たに開発を行っている偽・誤情報分析機能、ハルシネーション対策機能の説明およびデモンストレーションが行われた。

日本電気株式会社 セキュアシステムプラットフォーム研究所長 藤田範人氏

 同社では、システム・データ・AIの3つの領域におけるセキュリティの研究開発を実施。今回発表された技術は、生成AIがもたらす以下のリスクに対応したものとのことだ。

  • 悪用:生成AIを用いた詐欺やサイバー攻撃
  • 偽情報、誤情報:ディープフェイクの悪用や偽・誤情報による社会への影響
  • ハルシネーション:生成AIが事実と異なることをもっともらしく回答

 今回発表された技術の詳細は以下のとおり。

LLMを用いたセキュリティリスク診断

 2023年12月に発表した「脆弱性診断」「攻撃ルート分析」などの内容に加え、以下2つの技術を新たに開発したという。

  • 対策立案:対策の要望に合わせて効果的な対策の組み合わせを提案
  • レポート生成:読み手に合わせて、対応根拠や業界/攻撃者動向などの参考情報をLLMが自動分析し提示

 今後は、システム管理者向けのレポート生成サービスを2024年度中に事業化予定とのことだ。また、レポート内容を拡充し、現場で働く人に向けた診断支援や、経営層などへの報告に対するサポートも行うとしている。

偽・誤情報分析

 テキスト・画像・動画・音声といった複数の種類のデータで構成される情報コンテンツの偽・誤情報を、生成AIが分析評価する技術を開発中だという。たとえば、音声データに対するアプローチとしては、検証したい音声の内容を自動でテキスト化した後、その内容の正誤を調査し検証。該当する情報が見つからなかった場合は虚偽情報の可能性が高いものと判定されるとのことだ。

 同社はこの機能でファクトチェック業務の容易化を目指すとし、今後の動きとしては、年内から実証実験を実施予定だと述べた。

ハルシネーション対策機能

 LLMの出力に含まれるハルシネーションを検知する機能を開発中だという。この機能により、ユーザーは生成AIによる要約文書のハルシネーションを確認する作業を効率化できるとしている。具体的には、要約された文書の情報が、元の文書のどの情報から生成されたものかを可視化し、原文にない単語などを検知した場合に警告として提示することで、確認作業を効率化させるという。

 同機能は、2024年10月末からの提供開始を目指し、強化機能を順次リリースしていく予定とのことだ。

 なお、説明会では「クライアントゼロ活動」にも言及された。社内DXをリファレンス化し、顧客向けオファリングへ反映する同活動をセキュリティ技術においても実践しており、LLMを用いたセキュリティリスク診断において検証を進めているとした。

【関連記事】
NECと弁護士ドットコム、自治体向け文書管理支援で協業 契約関連業務を一気通貫でデジタル化へ
NXグループ、NEC協力のもと2028年度末までに400名のDX専門人材育成へ
NEC、静岡銀行ら10社と「地域金融機関 生成AI共同研究会」設立 金融機関での生成AI実装目指す

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
この記事の著者

奥谷 笑子(編集部)(オクヤ エコ)

株式会社翔泳社 EnterpriseZine編集部

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/news/detail/20391 2024/09/18 18:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング