2025年3月18日、ガートナージャパン(以下、Gartner)は、AIリスクへの対処について日本企業への提言を発表した。
AIリスクへの対応は全体像の把握と課題の優先順位付けが重要
現在、組織で進められているAIリスクに向けた取り組みは、主に次の3つに集約されると同社は述べる。
- AIガバナンス:AIリスクに対する組織の責任と姿勢を明確にし、組織全体としてAIの開発と利用を倫理的、法的、社会的な基準に沿って監督、管理し、対処する枠組み
- AIリスク・マネジメント(一般従業員向け):従業員のAI利用におけるリスクに対する実践的な取り組みに関連したプロセス/手法/テクノロジー全般
- AIリスク・マネジメント(開発/運用者向け):AIアプリケーションの開発/運用におけるリスクに対する実践的な取り組みに関連したプロセス/手法/テクノロジー全般
理想的には、まずAIガバナンス、次にAIリスク・マネジメント(一般従業員向け)、さらに自社で開発を行う組織はAIリスク・マネジメント(開発/運用者向け)といった順で進めることをGartnerは推奨。しかし、緊急性や即効性の観点でAIリスク・マネジメント(一般従業員向け)から着手する組織が多いのも実情だという。
一方、AIリスク・マネジメント(一般従業員向け)のような取り組みを進める上では、組織全体の連携や推進力が重要であることから、AIガバナンスの確立が必要になるとのことだ。つまり、先行してAIリスク・マネジメント(一般従業員向け)に取り組む組織は、同時並行でAIガバナンスを進める必要があるとしている。組織全体として取り組む必要があるため、経営レベルの関与や体制の確立も重要であるとともに、現場レベルにおける責任と役割の明確化も必要になっているという。
リスク・コントロールと継続的改善が重要
セキュリティリスク・マネジメント(SRM)のリーダーは、AIリスクとその対応についてはリスク低減のみを図るのではなく、ビジネス価値の創造、スピードを妨げないようなバランスの取れたリスクコントロールを設計・実装し、フィードバックを受けて継続的に改善していく必要があるとのことだ。
AIガバナンスの取り組みにあたっては、経営者がAIリーダーや責任者を任命すべきだと同社は述べる。AIリスクへの対応には多数の部署が関係するため、複数部署の連携を促し議論をリードできる実質的なAIリーダーが必要。大規模な組織では、AIリーダーを支えるチームの組成やAI委員会の設置も推奨されるとしている。
AIリスク・マネジメント(一般従業員向け)については、既に何らかのガイドラインを作成した組織は多いものの、見直しが必要になっているケースも散見されるという。従業員が容易に理解でき、かつアクショナブルなガイドラインを作成することが重要とのことだ。急速な変化とリクエストの増加に耐える内容である必要があるとしている。
AIリスク・マネジメント(開発・運用者向け)は、自社で開発・運用することを前提としているため、システムのライフサイクル全体を通したリスク軽減に向けたガイドラインが必要になるという。各フェーズで実施すべきことを盛り込むべきだと同社は述べている。
【関連記事】
・2028年まで、7割の生成AI関連コンサルサービス契約が顧客の期待に応えられない──Gartner見解
・2025年データアナリティクスのトレンド発表、AIエージェントはデータ分析の要に──Gartner
・人材不足による燃え尽き症候群が加速か──Gartner、2025年版サイバーセキュリティトレンド発表