デジタル労働力の実現:AIエージェントの革新的活用と課題
第1部ではセールスフォース・ジャパンの松尾吏氏、楽天グループの平手勇宇氏、モデレーターを務めたNTTデータグループの安部裕之氏が登壇し、AIエージェントについて語った。
松尾氏はAIエージェントを「デジタル労働力」と定義し、既に社内外で積極的に活用している実態を紹介した。「デジタルで働いていく人というふうに定義して、コールセンターエージェントだったり、営業のエージェントだったりというのが、人の代わりもしくは人と一緒に働いてくれるようなプラットフォームを提供しています」と松尾氏は説明する。
さらに、顧客向けのヘルプページをAIエージェントに置き換えた米セールスフォースの事例では、「毎週数万件の問い合わせがあり、これを現在はAIエージェントがほぼ全て回答しています。今までだと大体数万件の中の1〜2万件は人にエスカレーションされていたのですが、AIエージェントに置き換えることで、現在は5,000件ぐらいまで減っています」と具体的な効果が示された。

一方、楽天グループの平手氏は、ユーザー視点からAIエージェントの可能性を次のように展望した。
「AIが自分の代わりに何かをやってくれるものだろうと思います。例えば旅行する際に飛行機のチケットを取ったり、ホテルの予約をしてくれるエージェント、あるいはコンサートのチケットを取ってくれる、何か買い物してくれるエージェントなど、そういったシステムが遠くない未来にどんどん出てきて、皆さんが使っていくだろうと想定しております」(平手氏)

松尾氏は従来の生成AIと比較してAIエージェントの特徴を「これまでの生成AIは個人の生産性を上げるという側面が非常に強かったのに対し、AIエージェントは、これまで人でなければできなかったことを代わりにやってくれるようになってきています」と解説した。
具体的には、24時間365日・多言語の対応は、これまでの人間では限界があった。「たとえば、レストラン予約変更の際には、『10時の予約だったのを午後にしたい』というと、『2時、3時、4時の枠が空いています。どれにしますか?』と答えてくれます。こういう柔軟性を持たせることが可能なのです」と松尾氏は言う。

このように、AIエージェントの企業活用により、生まれてくるのは以下のようなビジネス価値だ。
- 人的リソースの最適化:定型業務からの解放により、より創造的・判断力を要する業務に人材をシフト
- 24時間対応による顧客満足度向上:時間帯を問わず一貫したサービス品質を提供
- 業務処理スピードの大幅な向上:数秒で完了する回答や処理による生産性向上
- 多言語・マルチチャネル対応::言語障壁やプラットフォームの違いを超えたシームレスな顧客体験
しかしこれらのメリットと同時に、新たなリスクについても注意が必要であることを各氏とも指摘する。
AIエージェント特有のリスクマネジメント戦略
平手氏が指摘した新たなリスクは、これまでシステムに人間との相互作用を組み込むことでAIや機械の機能を補ってきた「ヒューマンインザループ(HITL:Human-in-the-Loop)」という手法がAIエージェントの台頭により失われる可能性があることだ。
「これまでの生成AIは結局ユーザーである人がプロンプトを入力し、それに対してAIが生成した内容を逐一チェックして『これはダメだ』『これは採用しよう』ということをやっていたわけです。ところがAIエージェントになってくると、AIエージェントがいくつかのプロセスを自身で判断して実行し、最終的な結果をフィードバックするという形になってくると思われます。そこには人間のインタラクション、ヒューマンインザループがなくなるのではないかと考えられます」(平手氏)
このヒューマンインザループの不在により、生じるリスクは以下の3つだという。
- ハルシネーション(幻覚)発生時などの“エラーが発生した箇所や機序”の特定が困難になる
- 基幹システム連携時の影響範囲が拡大する
- マルチエージェント間で情報をやり取りする際に、本来想定・許可されていない情報へのアクセスが生じてしまう
これに加えて、松尾氏はリスク管理において「透明性」と「正確性」の2つが重要だと強調する。「我々のプラットフォーム上ではAIエージェントが何をしているのかが全て見えるようになっています。例えば裏側でAIエージェントがどれだけ動いて、どんなプロンプトを投げて、どんな回答をしたのか、お客様とのやり取りを全て記録しています」と説明した。
つまり、AIエージェント導入時のリスク管理では、従来のAI活用以上に監視体制と監査トレイルの確保が不可欠となる。だからこそ、企業はガバナンス体制の構築を進める必要があるのだ。