生成AIの企業活用 【徹底解説】今知るべきChatGPTの「脱獄」手法による攻撃とは? 「Macnica Security Forum 2023」凌翔太氏講演レポート 凌 翔太[語り手] / 京部康男 (編集部)[編] 2023/06/07 10:00 マクニカ ChatGPT 生成AI 通知 目次 Page 1 攻撃者による ChatGPTの悪用 DAN AntiGPT チャットボット同士の会話 Jailbreakしないで聞き出す方法 ランサムウェアの作成 Page 2 ChatGPTを組み込んだシステムに対する攻撃 プロンプトインジェクション システム側の命令を上書きし、追加の命令ができる問題 Page 3 プロンプトインジェクションの3つの対策 プロンプトの対策 Page 4 プロンプト対応の難しさ 会員登録無料すると、続きをお読みいただけます 新規会員登録無料のご案内 ・全ての過去記事が閲覧できます ・会員限定メルマガを受信できます メールバックナンバー 新規会員登録無料 ログイン Page 1 攻撃者による ChatGPTの悪用 DAN AntiGPT チャットボット同士の会話 Jailbreakしないで聞き出す方法 ランサムウェアの作成 Page 2 ChatGPTを組み込んだシステムに対する攻撃 プロンプトインジェクション システム側の命令を上書きし、追加の命令ができる問題 Page 3 プロンプトインジェクションの3つの対策 プロンプトの対策 Page 4 プロンプト対応の難しさ 次のページプロンプト対応の難しさ 1 2 3 4 PREV NEXT この記事は参考になりましたか? 1参考になった 印刷用を表示 生成AIの企業活用連載記事一覧 【200人以上が参画】オムロンの生成AI活用の屋台骨を支えるのは“業務課題を持つ”メンバー... コクヨ本気のAI人材育成で成果──システム開発スキルを叩き込むなど、独自の人材育成に光明 日立製作所 Generative AIセンター 吉田氏が語る生成AIの「責任ある」活用──... もっと読む この記事は参考になりましたか? 1 参考になった この記事をシェア 通知 シェア EnterpriseZine(エンタープライズジン) enterprisezine.jp https://enterprisezine.jp/lib/img/cmn/logo2.png https://enterprisezine.jp/article/detail/17832 2023/06/07 10:00