生成AIの企業活用 【徹底解説】今知るべきChatGPTの「脱獄」手法による攻撃とは? 「Macnica Security Forum 2023」凌翔太氏講演レポート 凌 翔太[語り手] / 京部康男 (編集部)[編] 2023/06/07 10:00 マクニカ ChatGPT 生成AI 通知 目次 Page 1 攻撃者による ChatGPTの悪用 DAN AntiGPT チャットボット同士の会話 Jailbreakしないで聞き出す方法 ランサムウェアの作成 Page 2 ChatGPTを組み込んだシステムに対する攻撃 プロンプトインジェクション システム側の命令を上書きし、追加の命令ができる問題 Page 3 プロンプトインジェクションの3つの対策 プロンプトの対策 Page 4 プロンプト対応の難しさ 会員登録無料すると、続きをお読みいただけます 新規会員登録無料のご案内 ・全ての過去記事が閲覧できます ・会員限定メルマガを受信できます メールバックナンバー 新規会員登録無料 ログイン Page 1 攻撃者による ChatGPTの悪用 DAN AntiGPT チャットボット同士の会話 Jailbreakしないで聞き出す方法 ランサムウェアの作成 Page 2 ChatGPTを組み込んだシステムに対する攻撃 プロンプトインジェクション システム側の命令を上書きし、追加の命令ができる問題 Page 3 プロンプトインジェクションの3つの対策 プロンプトの対策 Page 4 プロンプト対応の難しさ 次のページプロンプトインジェクションの3つの対策 1 2 3 4 PREV NEXT この記事は参考になりましたか? 1参考になった 印刷用を表示 生成AIの企業活用連載記事一覧 ソニーグループの生成AI活用が本格化──内製「Enterprise LLM」とベクトルDB... 生成AI時代のリスク管理フレームワーク「AI TRiSM」とは? 各国の規制動向と対策のポ... 失敗事例から学ぶ!生成AI 実践の成功への道筋──回答精度を90%向上したRAG構築のポイ... もっと読む この記事は参考になりましたか? 1 参考になった この記事をシェア 通知 シェア EnterpriseZine(エンタープライズジン) enterprisezine.jp https://enterprisezine.jp/lib/img/cmn/logo2.png https://enterprisezine.jp/article/detail/17832 2023/06/07 10:00