SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

  • Security Online
  • DB Online
  • ニュース
  • 新着記事一覧
  • イベント

    コスト高にならない「Oracle Database」クラウド移行の方策ー35年の知見からOCIと最新PaaSを徹底解説! powered by EnterpriseZine
    2025年10月17日(金) オンライン開催

    Security Online Day 2025 秋の陣
    2025年9月4日 (木) ~ 5日 (金) オンライン開催

    • IT部門から“組織変革”を~気鋭のトップランナーを訪ねる~

      IT部門から“組織変革”を~気鋭のトップランナーを訪ねる~

    • Next エンタープライズAI

      Next エンタープライズAI

    • SaaS ERP最前線──適者生存の市場を勝ち抜く企業はどこに

      SaaS ERP最前線──適者生存の市場を勝ち抜く企業はどこに

    • 酒井真弓の『Enterprise IT Women』訪問記

      酒井真弓の『Enterprise IT Women』訪問記

  • ブログ

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

コスト高にならない「Oracle Database」クラウド移行の方策ー35年の知見からOCIと最新PaaSを徹底解説! powered by EnterpriseZine

2025年10月17日(金) オンライン開催

Security Online Day 2025 秋の陣

2025年9月4日 (木) ~ 5日 (金) オンライン開催

Enterprise IT Women's Forum 2025 KANSAI

2025年9月2日(火)大阪開催

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2025年夏号(EnterpriseZine Press 2025 Summer)特集「“老舗”の中小企業がDX推進できたワケ──有識者・実践者から学ぶトップリーダーの覚悟」

AI時代のデータの世界観

AIエージェント時代に浮上するデータの責任問題──「AIセーフティ」と「AIセキュリティ」という2つのリスクにどう対処するか

【シスコシステムズ 平田泰一氏 × Quollio Technologies 松元亮太氏】

 「人間100人、AI100人の組織構成を検討している」──そんな企業が既に日本に現れている。AIエージェントが業務の主要な担い手となる時代、データの責任範囲と権限移譲はどう再定義されるべきか。Quollio Technologies CEO 松元亮太氏と、シリコンバレーでAIセキュリティスタートアップの成長を牽引し、Ciscoによる買収を経験した平田泰一氏が語る、データ世界観の根本的転換とは。

シリコンバレーの倉庫から巨大企業からの買収へ:失敗を許容する文化がもたらしたAI革命

 データエンジニアのコミュニティ「データ横丁」が主催する「AI時代のデータ世界観チャンネル」の対談セッションより、Quollio Technologies 代表取締役社長CEO 松元亮太氏と、AIセキュリティ分野の最前線で活躍するシスコシステムズ(以下Cisco) Robust Intelligence日本事業責任者 平田泰一氏による議論をお届けする。これまでの連載はこちら。(取材協力:データ横丁

松元:まず、平田さんの経歴から教えてください。

平田:私はソフトウェアエンジニアとしてキャリアを始めて、外資系コンサルを経て、ここ10年はアメリカのテクノロジーカンパニーで働いてきました。Robust Intelligenceには2019年に47番目のメンバーとして、日本で働く唯一の社員として参画しました。

松元:その時のシリコンバレーはどんな環境だったんですか?

平田:本当に倉庫でした。コンクリート打ちっぱなしの広場にテーブルとモニターが置いてあるだけ。そこでハーバード、MIT、プリンストン出身の若いエンジニアたちが働いていました。特に印象的だったのは、失敗を許容する文化です。スタートアップは朝令暮改が当たり前で、間違いを共有することがすごく大事なんです。私、色々間違うんですけど、それで怒られたことが一度もないんですよね。

松元:失敗許容の文化って、データ活用にとってもすごく重要ですよね。我々も企業のデータプロジェクトをやっていて感じるのは、日本企業だと最初から完璧を求めすぎて、結果的にデータから学習するサイクルが回らないことが多いんです。データって本質的に試行錯誤を前提とした領域なのに、減点主義だとイノベーションが生まれにくい。

平田:まさにその通りです。AIも間違いますからね。そして、そのRobust Intelligenceが昨年Ciscoからの買収オファーを受け、現在はCiscoの大規模なAIチームの中で、AIセキュリティソリューションを開発しています。私がRobust Intelligenceに参加した当時、アカデミアや技術者の間でAIセキュリティやAIガバナンスは、重要な課題として認識されていましが、まだ市場には浸透していませんでした。実は私、2022年にRobust Intelligence共同創業者である大柴に誘われた際に「AIガバナンスが受け入れられるのは5年から10年先だと思う」と言ったんです。当時は生成AIも民間には広がっていませんでしたから。ところが、わずか1年ほどでもうAIガバナンスという言葉を聞かない日がないような状況になってしまいました。

「予測可能」から「確率的」へ:AIが変えたデータアーキテクチャの根本構造

松元:AIの普及スピードが予想を上回ったということですが、具体的にどんな変化があったんでしょうか?

平田:これまでのITは、インフラがあって、データがあって、アプリケーションがあって、という3つぐらいの構成だったんですが、今はアプリとデータの間にモデルと呼ばれるAIの予測アルゴリズムが挟まれています。しかもこれらのモデルは複数使われるのが当たり前になっています。AIエージェントになると更にこの世界は複雑になります。

松元:従来のITとは構造が違うと。これ、データアーキテクチャの観点から見ると革命的な変化ですよね。従来はデータフローが予測可能で、データの入出力も決まっていたのに、AIモデルが入ることでデータの流れ自体が確率的になってしまう。

平田:そうです。従来のITは基本的に決定論的で、何かが入力されると予想がついているものが出力されます。でもAIは何かが入力されると推論結果を出力する、つまり非決定論的なんです。数年前までは、データサイエンティストという専門家がデータマネジメントしてAIモデルを作っていましたが、ChatGPTが出てからは誰でも自然言語で入力できてしまう。

松元:データサイエンティストがセクシーな職業と言われていた時代から、一気に民主化されたわけですね。でも民主化の裏側で、データガバナンスの複雑さは逆に増していますよね。誰でも使えるということは、誰でもデータにアクセスできてしまうということでもある。

平田:まさにそうです。このベクターがアプリケーションの間に挟まれると、そこが新しいリスクの要素になります。AIガバナンスで管理されるべきAIリスクには「AIセーフティ」と「AIセキュリティ」という2つの領域があります。AIセーフティはモデル自体の品質や倫理的問題、AIセキュリティはモデルが攻撃を受けることによる個人情報漏洩や有害な出力の問題が含まれています。

次のページ
保険会社のコールセンターが直面するAIリスク:誤回答の責任は誰が取るのか?

この記事は参考になりましたか?


広告を読み込めませんでした

広告を読み込み中...

  • Facebook
  • X
  • Pocket
  • note
AI時代のデータの世界観連載記事一覧
この記事の著者

京部康男 (編集部)(キョウベヤスオ)

ライター兼エディター。翔泳社EnterpriseZineには業務委託として関わる。翔泳社在籍時には各種イベントの立ち上げやメディア、書籍、イベントに関わってきた。現在はフリーランスとして、エンタープライズIT、行政情報IT関連、企業のWeb記事作成、企業出版支援などを行う。Mail : k...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/22526 2025/09/02 09:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング