AIが大量のデータを無断削除、隠蔽まで図る……AIエージェントの暴走から自社を守るガバナンス権限設計
【file.06】AIエージェントが従業員になったとき、必要なAIガバナンスとは
連載「AI事件簿 ～思わぬトラップとその対策～」では、過去のAIに関するインシデント事例や先人たちの教訓をもとに具体的なリスク対策を解説してきました。連載の最終回となる本稿では、昨今、我々が利用するITソリューションにも続々と導入されているAIエージェントにまつわるAIリスクを取り上げます。人間と同じように自律的に動くAIエージェントは、これまでのAIガバナンスの概念だけでは正しく統制できずに、大きなインシデントを招く恐れを大いに秘めています。どのようなガバナンス設計が必要なのか。技術的／非技術的それぞれの観点を踏まえて解説します。
※印刷用ページ表示機能はメンバーのみが利用可能です（登録無料）。
この記事は参考になりましたか？
- AI事件簿 ～思わぬトラップとその対策～連載記事一覧
-
- AIが大量のデータを無断削除、隠蔽まで図る……AIエージェントの暴走から自社を守るガバナン...
- 教員がAIを欺いて学生の“ズル”を回避？ 進化する「AI騙し」に対抗できる組織のセキュリテ...
- 米企業のカスタムAIが機密データを“丸ごと提供”し大事に……AI特有の情報漏えいに正しく対...
- この記事の著者
-
平田 泰一（ヒラタ ヤスカズ）
Robust Intelligence Country Manager, Cisco Business Development Managerを務める。Accenture, Deloitte, Akamai, VMware, DataRobotなどを経て、デジタル戦略・組織構築・ガバナンス策定・セキ...
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
