SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

予期せぬ事態に備えよ! クラウドで実現するIT-BCP対策 powered by EnterpriseZine

2024年7月10日(水)オンライン開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

Security Online Press

【ISC2ウェビナーレポート】生成AI時代のセキュリティ、これからのCISOが行うべきこと

 2024年2月7日、ISC2が主催するウェビナーシリーズとして、「生成AIが活用される時代に求められるセキュリティとは」と題したセッションと、「今後3年間でCISOが行うべきことは何か」をテーマとしたCISOパネルディスカッションが開催された。事前登録者が600名を超えたという本ウェビナーをレポートする。

生成AIとそのセキュリティをどう捉えるべきか

 本ウェビナーでは最初に、高橋正和氏によるセッション「生成AIの動向とセキュリティへの影響~大衆化する専門性への懸念と期待~」が行われた。

 高橋氏は、2022年11月にChatGPTが発表されたことをきっかけに、生成AIが話題になったとして「なぜChatGPTがすごいのか」をChatGPT自身に聞いた。しかし、ChatGPTの回答は指定した500文字をはるかに超える。

 高橋氏はそこで、PowerPointのプレゼンテーションの作成を依頼する。ChatGPTにPowerPointを出力する機能はないが、マイクロソフトではPowerPointにChatGPTのエクステンションを用意している。これを活用したところ、それなりの時間とCPUパワーを消費したものの、みごとにプレゼン資料が完成。

 完成したパワポは「ChatGPTの機能」「ChatGPTの利用例」「ChatGPTの利点」「ChatGPTの将来展望」「まとめ」という構成になっていた。高橋氏は「昨年12月にも同じことをしたが、格段に良くなっているものの、まだまだ表面的な内容である」と評価する。より充実したものを出力することはできるものの、そのためにはプロンプトなどの技術が必要であることが現状だという。

 ChatGPT以前からAIは存在しているが、生成AIやLarge Language Model(LLM)の場合は、事前に大量の学習をすることによって、意味は理解していないものの最もらしい結果が出力できるようになったことに特徴があるという。従来の機械学習は一定以上の学習データを与えると過学習になってしまい、正解率が下がるという常識があった。しかし生成AIでは、ある学習量を超えると急激に正解率が上がる。

 ChatGPTは、従来の強化学習や人手による教師付き学習ではなく、自己教師あり学習を中心に拡散モデル、ファインチューニングとしてセッション管理や本文中学習などで構成されている。そのため人手を介さなくても学習データを大量に作れるようになったことがポイントであり、テキスト、音声、画像、動画など複数のデータを統合して処理するマルチモーダルAIとなっていることも特徴であると高橋氏は指摘する。

生成AIのセキュリティと懸念

 なおAIのセキュリティについては、社会問題としてのAI、権威付けのAI、そして技術としてのAIの3種類があるため、どのAIにおけるセキュリティを議論するのかを明確にしておく必要があるという。また、AIの基本的な問題として高橋氏は以下の点を挙げる。

  • 100%の保証は原理的にできない
  • 将来が過去と同じ分布でないと正しく予測できない
  • 元分布の範囲外は正しく予測できない
  • なぜそうなったかを説明できない

 高橋氏は認識すべき生成AIのポイントとして、発明を行うものではないこと、生成AIが自動的に防いでくれるわけではないこと、自律的に連携し成長するものではないことを挙げる。ただ、生成AIによってスピードと量と領域、それに攻撃や事件などの頻度が上がり、底辺のレベルアップが起きる。そのため今後は超スクリプトキディのような動きでも出てくる可能性があるという。

 「生成AIが登場した現在は、時代の特異点かもしれない」と高橋氏は語る。マイコンが登場したときのような既視感を感じているためだ。そうした中で高橋氏は、「セキュリティ関係者は新しい技術に消極的な傾向があるものの、利用規約や法制度を理解した上でぜひ使ってみて欲しい」と呼びかける。

次のページ
CISOになる道筋

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
Security Online Press連載記事一覧

もっと読む

この記事の著者

吉澤 亨史(ヨシザワ コウジ)

元自動車整備士。整備工場やガソリンスタンド所長などを経て、1996年にフリーランスライターとして独立。以後、雑誌やWebを中心に執筆活動を行う。パソコン、周辺機器、ソフトウェア、携帯電話、セキュリティ、エンタープライズ系など幅広い分野に対応。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/19332 2024/03/22 08:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング