SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

直近開催のイベントはこちら!

Security Online Day 2024 春の陣

2024年3月13日(水)10:00~17:10

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

EnterpriseZine Day 2023 Winter レポート

「できることが日々増えていく」ホワイトハッカーが生成AIをセキュリティで使ってわかった今後の対策

 近年、めざましい進化を遂げる生成AIは、どこまでセキュリティ業務で役立つのか。「EnterpriseZine Day 2023 Winter」の講演「セキュリティで役に立つ生成AIの限界」にて、日本ハッカー協会の代表理事、杉浦隆幸氏はAIの最新事情を紹介。生成AIの可能性と限界を自ら検証した結果を交えながら、セキュリティ業務で活用するためのヒントや課題を紐解いた。

次々誕生する、生成AIでできること

 インターネット以来の技術革新と言われる生成AI。人工知能と対話しながら課題解決するという、まさにSF映画の世界の到来だ。

 講演の冒頭で日本ハッカー協会の代表理事、杉浦隆幸氏は「文章や画像をトリガーに質疑応答、音声の文字起こしや文章の要約、コード生成、作曲などが可能です」と説明する。

日本ハッカー協会 代表理事 杉浦隆幸氏
日本ハッカー協会 代表理事 杉浦隆幸氏

 例として挙げたのは、ChatGPTで作成した「新しい日本国憲法の前文」や、音楽生成サービス「MusicGen」で「ファンタジー」「魔法」「王国」といったキーワードから自動生成させた短いメロディ。

 さらに、機械学習アプリ開発ツールHugging Faceを使って作られた岸田総理の声色でテキストを読み上げる「AI岸田文雄メーカー」、AIアバターが様々な言語に合わせて口を動かしテキストを読み上げる「Wondershare Virbo」などを取り上げ、“お遊び”を含めて、生成AIをうまく取り込んだサービスが次々と登場している状況を楽しく紹介した。

生成AIで広がる新サービスの可能性【画像クリックで拡大】
生成AIで広がる新サービスの可能性【画像クリックで拡大】

生成AIを使いこなすには“指示力”が必要

 当然、何もかも生成AIで作れるわけではない。たとえば、多くの企業がインターネット上に公開し、読んですぐ理解できるよう短い文章にまとめられることが多いセキュリティポリシーは、「生成AIが得意とするところ」と杉浦氏は解説する。同氏によれば、生成AIに向いているものは、公開例が多いものだそうだ。

 杉浦氏によれば、GPT-3.5モデルで実施に生成してみたところ、必要な項目に抜けがあるものの、「80~90点はとれるレベルの文章が生成された」という。

 また、各国で異なる法規制など考慮すべきポイントが多いために、生成AIに書かせるのは難しいとされてきたプライバシーポリシーや利用規約についても、2023年11月に公開されたGPTsであれば、特定の文書や業界専門用語を学習させることができるという。

 そのため、今後はより精度の高いものが生成できるようになると杉浦氏は期待を寄せる。既に、ISO27001とISO/IEC27002のベストプラクティスを学習済みの「ISO Guardian」が公開されており、「実際に使ってみた」と話す杉浦氏。

 「ISO27001を取得するために必要なISMSのポイントの大枠を出した上で、各項目の詳細を詰めるといった作業が可能になり、ゼロから書くよりも楽」と評価した。

ISO GuardianにISMSのポイントを聞いた生成結果【画像クリックで拡大】
ISO GuardianにISMSのポイントを聞いた生成結果【画像クリックで拡大】

 難点は、ピントの合わない文章を生成することが多い点だ。「思い通りの結果が出ないのは、指示力が足りないからです」と率直に断言する杉浦氏。

 具体的には「書き手は情報セキュリティコンサルタント」で「クライアントは初めてセキュリティ対策に取り組む製造業」、そんな彼らに「最初にやるべきことを提案する」といった具合で、しっかりと指示を出すことだという。

 「書き手の立場や対象読者、文章の主旨や目的を明確にすることで生成結果は変わってきます。プロンプトを書くときは、何も知らない人にも伝わるような文章を意識すること。的確かつ過不足なく、論理的に指示を出すことが重要です。それができないと、生成AIの活用はあっという間に限界が来てしまいます」(杉浦氏)

 なお杉浦氏によれば、令和5年度春期の情報処理安全確保支援士試験、午前IIの問題をChatGPTに解かせてみたところ、10問中9問正解したという。試験の問題文は正解を導き出せるように書かれており、つまりは“的確な指示”で構成されているため、生成AIが正解できたと分析する杉浦氏。

 「今後、試験問題を作成するときは、一度ChatGPTに問題文を解かせて正解できるかどうか検証するといいかもしれない」(杉浦氏)

次のページ
生成AIにはない“構成力”

この記事は参考になりましたか?

  • Facebook
  • Twitter
  • Pocket
  • note
EnterpriseZine Day 2023 Winter レポート連載記事一覧

もっと読む

この記事の著者

谷崎 朋子(タニザキ トモコ)

 エンタープライズIT向け雑誌の編集を経てフリーランスに。IT系ニュースサイトを中心に記事を執筆。セキュリティ、DevOpsあたりが最近は多めですが、基本は雑食。テクノロジーを楽しいエクスペリエンスに変えるような話が好きです。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/18900 2024/01/15 08:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

2024年3月13日(水)10:00~17:10

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング