SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

直近開催のイベントはこちら!

Data Tech 2022

2022年12月8日(木)10:00~15:50

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

Security Online Press

日本の若き秀才がハーバード大で起業したRobust Intelligence、なぜ今「AI管理」か

「AIは作って終わりでなく、安全に責任をもって」―Robust Intelligence 大柴行人氏

 不正検知、需要予測、レコメンデーション、物体認識、音声認識、顔認識……AIはめざましい進化を遂げており、ビジネスへの利用も盛んだ。一方で、ソフトウェアと同様にAIにも脆弱性が存在するため、その危険性も指摘されている。Robust Intelligence(ロバスト・インテリジェンス、米サンフランシスコ)は、この課題にいち早く着目し、AIの脆弱性診断や解決のための技術を提供する企業。創業者の大柴行人氏に、AI倫理やリスクに関する日米の違いや、ビジネスにおけるAI活用において留意すべきこと聞いた。

日本からハーバード大、そして起業へ 「AIの脆弱性」研究を社会実装する

 Robust Intelligenceを起業した若き秀才として注目を集める大柴行人氏。1995年に日本で生まれ高校を卒業後、米ハーバード大学に進学し、コンピュータサイエンスと統計学を専攻する。その際に「AIの脆弱性」に関する研究をしていた。

 「AIに対していろいろなデータを当てはめて、どんなときに“AIが壊れる”のかといった、言わばソフトウェアハッキングのAI版のようなことをしていました。当時AIはすごい魔法の箱だという世の中の認識がある中で、適切に使わないといけないと感じていましたね。そして研究を続けるのか、それともアカデミックな世界と世間とのギャップを埋めるのか、どちらをしたいのか考え、後者を選びました」(大柴氏)

Robust Intelligence Co-Founder 大柴行人氏
Robust Intelligence Co-Founder 大柴行人氏

 2019年、大学卒業前の数ヶ月間に指導教授だったYaron Singer氏とRobust Intelligenceを共同起業する。当初はハーバード大学近くのボストンで活動していたが、世界有数のベンチャーキャピタルであるSequoia Capitalから資金調達後、シリコンバレーに移転した。

 Robust Intelligenceの主な事業は、AIの開発時にモデルをテストする「AI Stress Testing」と、 運用時に継続的にAIモデルを保護する「AI Firewall」、AIの性能劣化を検知し原因を特定する「AI Continious Testing」という、3つのサービスから成るプラットフォーム「Robust Intelligence」の提供だ。AIが生まれてから運用を継続していくというライフサイクルにおいて、健全な状態を保つことを支援する。

 米国での顧客企業はPayPalやExpedia、大手HR企業、国防総省。国内では、NEC、NTTデータ、東京海上、セブン銀行など業種業界はさまざまだ。この顔ぶれだけでもAIが多くの業界に浸透しており、そのリスクが課題となっていることがわかる。つまり、AI倫理や品質、AIの公平性といった議論が各所で生まれているのだ。

 「たとえば、Expediaであれば、以前作っていた旅行のレコメンデーションに係るAIモデルは、コロナ禍によって使えなくなりました。扱うデータの状況が変わるに従って、AIモデルもチェックしなければならないのです。AIは単体で動くわけでなく、データのパイプライン上で不正なデータや誤ったデータが混ざると、正しい予測ができなくなります。顔認証や不正検知のAIなら、それを騙そうとする攻撃もあります。これらの課題に我々は注目しているのです」(大柴氏)

次のページ
AIの暴走抑止、公平性を担保するための管理が求められている

この記事は参考になりましたか?

  • Facebook
  • Twitter
  • Pocket
  • note
Security Online Press連載記事一覧

もっと読む

この記事の著者

森 英信(モリ ヒデノブ)

就職情報誌やMac雑誌の編集業務、モバイルコンテンツ制作会社勤務を経て、2005年に編集プロダクション業務やWebシステム開発事業を展開する会社・アンジーを創業。編集プロダクション業務においては、IT・HR関連の事例取材に加え、英語での海外スタートアップ取材などを手がける。独自開発のAI文字起こし・...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/16871 2022/11/08 08:00

Job Board

PR

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

2022年12月8日(木)10:00~15:50

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング