AIエージェントの過失は誰が責任を負うのか？弁護士に訊く、本格実装前に知るべきAIガバナンスの観点

責任問題に対処できる環境を整える──カギは「権限」と「監視」

　AIエージェントを適切に制御するためには、まず利用する企業側が自社で活用しているAIの役割と限界を正確に認識することから始めるべきだと清水氏は述べる。自社がどの範囲の業務をAIエージェントに委ね、どの局面で人間が介在して最終決定を下すべきなのかを、あらかじめ社内で明確に定義しておかなければならない。企業が利用規約を承諾して外部のAIサービスを使用する以上、その成果物を最終的に承認した部門や担当者が責任を負うという自覚を持つことが重要だと指摘する。

　一方で、AIの開発者／提供者側も提供方法に注意が必要だ。「どんなタスクでもAIエージェントで自動実行可能」とアピールするような提供方法は、後から問題が起きた場合に責任を追及されるリスクになり得る。契約であればAIによる自動取引のリスクを明言したうえで、「たとえば、デフォルトで1億円に設定されている契約上限を最大300万円にユーザー自身で絞り込めるような“権限の最小権限化”を可能にすべきだ」と同氏は提言する。利用者の意図に反するアクシデントを防止するためには、権限の設定範囲をコントロールできる仕様を設計することが、提供者としての責任だとした。

　また、AIとユーザー間のすべての対話や実行された処理プロセスについて、詳細なログの監視と保存体制を確立しておくことも欠かせない。これは、2026年から2027年にも到来が予想されている汎用人工知能（AGI）の時代を見据えた対策にもなるという。AIが自らを書き換えて、人間が検知できないレベルで自律的に成長し始める前に、システム側から厳密な機能制限（ガードレール）を適用する仕組みを整えておくことが、将来のリスクマネジメントを左右するのだ。

AIの仕組みがブラックボックスで分からない……説明責任の確立と取引停止リスク

　AIシステムは中身の処理が見えにくく、ブラックボックスになりがちで、開発者側と利用者側の間で技術的な知識の差、すなわち「情報の非対称性」が生じてしまうという課題がある。しかし、利用者側のセキュリティを担う企業のITリーダーは、この仕組みの不透明さを理由にデータ管理を曖昧にしてはならないと清水氏。「自社がどのようなAIを使い、機密データがどこでどのように処理されているのかを組織として正確に把握しておくことが重要だ」と強調する。

　その上で、AIエージェントの利用者側も、自社のデータ保護体制がなぜ安全なのかを客観的な根拠に基づいて説明できるように準備しておく必要がある。実際、清水氏の所属するアンダーソン・毛利・友常法律事務所でも、ここ数ヵ月の間で取引先からAIの安全管理について細かい質問を受けるケースが急激に増えているそうだ。

　もし取引先からの質問に明確に回答できない場合、AIの使用禁止やオンプレミス環境などへの回帰を求められるケースが実際に起きており、場合によっては最終的に取引から外される可能性もあるという。自社におけるAI利用の安全性を証明することは、ビジネスの信頼を守るための優先課題なのだ。