SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

Security Online Day 2025 春の陣(開催予定)

2025年3月18日(火)オンライン開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2024年秋号(EnterpriseZine Press 2024 Autumn)特集「生成AI時代に考える“真のDX人材育成”──『スキル策定』『実践』2つの観点で紐解く」

Security Online Day 2024 秋の陣レポート(AD)

今こそ知るべき、生成AIアプリ特有のセキュリティ対策アプローチ──数百万人の調査から判明した脅威とは

Netskopeが「リスクアセスメント・可視化・コントロール」で実現する、安全な生成AIの活用環境

 組織のゼロトラスト環境を実現する、SSEやSASEプラットフォームで知られるNetskope。企業で急速に生成AIアプリの活用が進んでいる状況を受け、同社のソリューションエンジニアである田中資子氏はその裏に潜むリスクを指摘する。本稿では、2024年9月25日~26日に開催された「Security Online Day 2024 秋の陣」にて、同氏が解説した生成AIアプリを活用するうえで対策すべきリスクと、その具体的なアプローチについてレポートする。

拡大する生成AIの実務活用、一方で数多の情報漏えいリスクが……

 急速に進化を続ける生成AI。クラウドサービスのベンダーは、自社のサービスに続々と生成AI機能を搭載している。事業会社の中でも、業務アプリケーションへの生成AI実装が進みつつある。目的や業種・業界に特化した新サービスの登場や、内部の性能強化など、その技術動向からは目が離せない。

 Netskopeは、企業におけるAIクラウドサービスの活用状況に関する調査レポートを公表した。調査期間は2023年から約1年間。事前に了承を得た世界のNetskopeユーザーおよそ数百万人の匿名データから分析した結果となる。

 まずは、直近で人気の生成AIアプリ“トップ10”を見てみよう。1位は、生成AIアプリの代名詞とも言える「ChatGPT」。回答企業の80%が利用している。2位は英文校正ツールの「Grammarly」(60%)、3位は急伸が著しい「Microsoft Copilot」(57%)、4位には「Google Gemini」(51%)が並ぶ。

[画像クリックで拡大表示]

 回答企業のうち、半数以上が利用しているアプリはすべてメジャーなものだといってよいだろう。また、調査期間の過去13ヵ月における生成AIアプリの利用者数の推移を見ると、着実に増えていることがわかる。特に2024年春ごろから勢いが加速している。

 生成AIが個人の生産性にもたらすメリットは大きい。これは間違いないだろう。しかし、組織全体からの視点で見ればリスクもある。同社の田中資子氏は、組織視点でのリスクについて、大きく「生成AIアプリへのデータ入力時に関するもの」と、「出力結果の利用時に関するもの」に分けられると話す。

Netskope Japan株式会社 ソリューションエンジニア 田中資子氏
Netskope Japan株式会社 ソリューションエンジニア
田中資子氏

 まずは、データ入力時に関するもの。たとえば、誰かが会社で非公認の生成AIアプリを利用することや、個人情報・シークレット・営業秘密・著作権などの漏えいしてはならないデータを生成AIアプリに入力してしまうなどのリスクがある。対策としては、組織全体で利用する生成AIアプリを限定して、それ以外は制限することや、疑わしいデータ利用を検出できる仕組みを構築すること、さらにはユーザーのリテラシーを向上するためのトレーニングを実施することなどが挙げられる。

 次に、出力結果の利用時に関するもの。これには、誤情報やハルシネーションなど正確性の問題や、著作権侵害など合法性の問題、あるいは人間の仕事が生成AIに置き換わるなど解雇のリスク、さらにはフィッシングやディープフェイクなど、ソーシャルエンジニアリングに悪用されるリスクなどが挙げられる。これらすべてに対策を打つことは簡単ではないが、生成AIアプリ利用時の目的や運用ルールを統制すること、職務の明確化、加えてフィッシング対策や、データ監査・追跡などを検討していくことが考えられる。

 実際、企業ではどのようなDLP(データ損失防止)違反が生じているのか。生成AIアプリにアップロードまたはポストされたデータで、DLP違反として検出されたものを見てみると、現時点で最も高い割合を占めるのは「ソースコード」で、全体の約半分を占めている。社内で生成AIの実務活用がいち早く進んでいるのが、アプリケーション開発の現場である場合が多いためかもしれない。他には、業界規制やコンプライアンス要件による規制対象データが35%、知的財産関連が15%となっている。田中氏は、「生成AIアプリの出現で情報規制対象が増え、ユーザートレーニングの重要性がますます高まっている」と指摘する。

次のページ
生成AIアプリ特有のリスク対策は3つのアプローチで

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
Security Online Day 2024 秋の陣レポート連載記事一覧

もっと読む

この記事の著者

加山 恵美(カヤマ エミ)

EnterpriseZine/Security Online キュレーターフリーランスライター。茨城大学理学部卒。金融機関のシステム子会社でシステムエンジニアを経験した後にIT系のライターとして独立。エンジニア視点で記事を提供していきたい。EnterpriseZine/DB Online の取材・記事も担当しています。Webサイト:https://emiekayama.net

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

提供:Netskope Japan株式会社

【AD】本記事の内容は記事掲載開始時点のものです 企画・制作 株式会社翔泳社

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/20575 2024/11/21 17:29

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング