AIエージェントの過失は誰が責任を負うのか？弁護士に訊く、本格実装前に知るべきAIガバナンスの観点

AIエージェントによる行動の責任は誰がとるべき？

　我々が日常的に利用する多様なシステムへのAIの実装は、我々ユーザーが意識しないうちに自然な形で進行しつつある。米国をはじめとする海外の企業では、AIエージェントが特定の要件を自動で判定し、自律的に取引を成立させる「自動契約」の導入も進んでいる。一方で日本国内に目を向けると、こうした高度な自動化プロセスへの移行には慎重な姿勢を維持する企業が多い。

　この背景にある課題の一つとして、清水亘氏はハルシネーションのリスクを挙げる。トランスフォーマーベースの大規模言語モデル（LLM）は、統計的な処理によって確からしい回答を出力しているにすぎず、虚偽の情報を完全に排除することは不可能とされるからだ。

　この不確実性に起因して、システムが意図しない発注を行ったり、不本意な取引を自律的に成立させたりするトラブルの発生が、現実的なビジネスリスクとして考えられる。具体的な事例として清水氏は、カナダの大手航空会社であるエア・カナダのチャットボットが顧客に誤った割引規定を案内した結果、最終的に航空会社側が法的責任を問われ、損害賠償の支払いを命じられた判例を挙げた。AIエージェントによる処理の自律性が高まるにつれて、このような予期せぬ法的な問題が増加する可能性は高くなる。

「ヒューマン・イン・ザ・ループ」が破綻……現場のリアルな課題

　AIエージェントを適切に制御する一つの手段として、「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」が多くの企業で取り入れられている。しかし今、企業の担当者レベルである問題が起きているという。

　「AIエージェントは超高速かつ極めて大量のデータを処理できるので、それをすべて人がチェックしていては到底間に合いません。AIの実装によって業務が中途半端に代替された結果、アプルーバル（承認）を与える側の専門家（法務やリスクマネジメント部門などのバックオフィス）に確認作業が殺到しているのです。私自身、事務所においてAI活用を推進する立場としてまさにこの状況を体験し、ヒューマン・イン・ザ・ループに限界を感じています」（清水氏）

　日本では情報処理推進機構（IPA）や関係省庁が中心となり、事業者向けのガイドラインや、AIに関する民事責任の手引きの作成などを進めている。これらの指針は、システムに重大な不具合がある場合はAIエージェントの開発者や提供者側が責任を負い、利用者が不注意によりAIを稼働させていた場合には利用者側が責任を負うという大枠の責任分担を基準にすることを目指すものといえる。

　しかし、責任を単純に二分するだけでは、実務上の多様なトラブルや過失の判定基準を解決しきれないのが実情だ。では企業は、何を基準にしてどのようにAIエージェントのガバナンスを効かせていけばよいのだろうか。