SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

  • ニュース
  • 新着記事一覧
  • Security Online
  • DB Online
  • イベント

    【開催予定】EnterpriseZine Day 2025 Summer
    2025年6月20日(金)オンライン開催

    HR×Data Forum
    2025年5月27日(火)オンライン開催

    • SaaS ERP最前線──適者生存の市場を勝ち抜く企業はどこに

      SaaS ERP最前線──適者生存の市場を勝ち抜く企業はどこに

    • 酒井真弓の『Enterprise IT Women』訪問記

      酒井真弓の『Enterprise IT Women』訪問記

    • IT部門から“組織変革”を~気鋭のトップランナーを訪ねる~

      IT部門から“組織変革”を~気鋭のトップランナーを訪ねる~

  • ブログ

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

【開催予定】EnterpriseZine Day 2025 Summer

2025年6月20日(金)オンライン開催

HR×Data Forum

2025年5月27日(火)オンライン開催

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2024年秋号(EnterpriseZine Press 2024 Autumn)特集「生成AI時代に考える“真のDX人材育成”──『スキル策定』『実践』2つの観点で紐解く」

EnterpriseZine Press

米欧中のAI戦略シフトの中で、セーフティとセキュリティのバランスをどう見極めるのか?

AIガバナンス協会(AIGA)Meetupレポート


 2025年3月17日に開催されたAIガバナンス協会(AIGA)主催のMeetupでは、AIの急速な発展に伴う課題と今後の展望について、業界をリードする専門家たちによる2部構成のパネルディスカッションが行われた。第1部では「AIエージェントを良い同僚にするには?」、第2部では「SafetyからSecurityへ? AI政策の国際情勢を読み解く」をテーマに議論が交わされた。

デジタル労働力の実現:AIエージェントの革新的活用と課題

 第1部ではセールスフォース・ジャパンの松尾吏氏、楽天グループの平手勇宇氏、モデレーターを務めたNTTデータグループの安部裕之氏が登壇し、AIエージェントについて語った。

 松尾氏はAIエージェントを「デジタル労働力」と定義し、既に社内外で積極的に活用している実態を紹介した。「デジタルで働いていく人というふうに定義して、コールセンターエージェントだったり、営業のエージェントだったりというのが、人の代わりもしくは人と一緒に働いてくれるようなプラットフォームを提供しています」と松尾氏は説明する。

 さらに、顧客向けのヘルプページをAIエージェントに置き換えた米セールスフォースの事例では、「毎週数万件の問い合わせがあり、これを現在はAIエージェントがほぼ全て回答しています。今までだと大体数万件の中の1〜2万件は人にエスカレーションされていたのですが、AIエージェントに置き換えることで、現在は5,000件ぐらいまで減っています」と具体的な効果が示された。

株式会社セールスフォース・ジャパン 松尾吏氏
株式会社セールスフォース・ジャパン 松尾吏氏

 一方、楽天グループの平手氏は、ユーザー視点からAIエージェントの可能性を次のように展望した。

 「AIが自分の代わりに何かをやってくれるものだろうと思います。例えば旅行する際に飛行機のチケットを取ったり、ホテルの予約をしてくれるエージェント、あるいはコンサートのチケットを取ってくれる、何か買い物してくれるエージェントなど、そういったシステムが遠くない未来にどんどん出てきて、皆さんが使っていくだろうと想定しております」(平手氏)

楽天グループ株式会社 平手勇宇氏
楽天グループ株式会社 平手勇宇氏

 松尾氏は従来の生成AIと比較してAIエージェントの特徴を「これまでの生成AIは個人の生産性を上げるという側面が非常に強かったのに対し、AIエージェントは、これまで人でなければできなかったことを代わりにやってくれるようになってきています」と解説した。

 具体的には、24時間365日・多言語の対応は、これまでの人間では限界があった。「たとえば、レストラン予約変更の際には、『10時の予約だったのを午後にしたい』というと、『2時、3時、4時の枠が空いています。どれにしますか?』と答えてくれます。こういう柔軟性を持たせることが可能なのです」と松尾氏は言う。

NTTデータグループ株式会社 安部裕之氏
NTTデータグループ株式会社 安部裕之氏

 このように、AIエージェントの企業活用により、生まれてくるのは以下のようなビジネス価値だ。

  • 人的リソースの最適化:定型業務からの解放により、より創造的・判断力を要する業務に人材をシフト
  • 24時間対応による顧客満足度向上:時間帯を問わず一貫したサービス品質を提供
  • 業務処理スピードの大幅な向上:数秒で完了する回答や処理による生産性向上
  • 多言語・マルチチャネル対応::言語障壁やプラットフォームの違いを超えたシームレスな顧客体験

 しかしこれらのメリットと同時に、新たなリスクについても注意が必要であることを各氏とも指摘する。

AIエージェント特有のリスクマネジメント戦略

 平手氏が指摘した新たなリスクは、これまでシステムに人間との相互作用を組み込むことでAIや機械の機能を補ってきた「ヒューマンインザループ(HITL:Human-in-the-Loop)」という手法がAIエージェントの台頭により失われる可能性があることだ。

 「これまでの生成AIは結局ユーザーである人がプロンプトを入力し、それに対してAIが生成した内容を逐一チェックして『これはダメだ』『これは採用しよう』ということをやっていたわけです。ところがAIエージェントになってくると、AIエージェントがいくつかのプロセスを自身で判断して実行し、最終的な結果をフィードバックするという形になってくると思われます。そこには人間のインタラクション、ヒューマンインザループがなくなるのではないかと考えられます」(平手氏)

 このヒューマンインザループの不在により、生じるリスクは以下の3つだという。

  1. ハルシネーション(幻覚)発生時などの“エラーが発生した箇所や機序”の特定が困難になる
  2. 基幹システム連携時の影響範囲が拡大する
  3. マルチエージェント間で情報をやり取りする際に、本来想定・許可されていない情報へのアクセスが生じてしまう

 これに加えて、松尾氏はリスク管理において「透明性」と「正確性」の2つが重要だと強調する。「我々のプラットフォーム上ではAIエージェントが何をしているのかが全て見えるようになっています。例えば裏側でAIエージェントがどれだけ動いて、どんなプロンプトを投げて、どんな回答をしたのか、お客様とのやり取りを全て記録しています」と説明した。

 つまり、AIエージェント導入時のリスク管理では、従来のAI活用以上に監視体制と監査トレイルの確保が不可欠となる。だからこそ、企業はガバナンス体制の構築を進める必要があるのだ。

次のページ
米欧中のAI戦略シフト:SafetyとSecurityのバランスを模索する世界情勢

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
EnterpriseZine Press連載記事一覧

もっと読む

この記事の著者

京部康男 (編集部)(キョウベヤスオ)

ライター兼エディター。翔泳社EnterpriseZineには業務委託として関わる。翔泳社在籍時には各種イベントの立ち上げやメディア、書籍、イベントに関わってきた。現在はフリーランスとして、エンタープライズIT、行政情報IT関連、企業のWeb記事作成、企業出版支援などを行う。Mail : k...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/21773 2025/04/07 15:06

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング