SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

予期せぬ事態に備えよ! クラウドで実現するIT-BCP対策 powered by EnterpriseZine

2024年7月10日(水)オンライン開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

生成AIの社内導入で、情シスが押さえておきたい「4つの論点」

迫る生成AI時代、情シスが「御用聞き」から「課題解決」に進化できるビッグチャンスを活かすには

【後編】生成AI導入をきっかけに情シスそのものの変革を

 生成AIの活用に関心を持つ企業が増えている。生成AIの社内導入において、これまで「御用聞き」型だった情報システム部門は、業務部門を横断した「課題解決」型に進化できる大きなチャンスでもある。ぜひこの機会に同部門そのものを変革する取り組みを進めてほしい。

正しく理解したい導入リスクを整理

 情報システム部(以下、情シス)の変革の一助になることを目指し、企業が生成AIを導入するにあたって情シスが留意すべき論点について考えたい。今回は前編の続きとなる論点3と論点4、さらには情シス自身に求められる変革について解説する。

  • 論点1:どのようにして生成AIアイディエーション、ユースケ―スを創出するか
  • 論点2:生成AI全社導入におけるエンタープライズITの検討ポイントは何か
  • 論点3:生成AIにおけるリスクと適切な生成AIガバナンスは何か
  • 論点4:情報システム部門も含めた社内リテラシー向上は必要か

論点3:生成AIにおけるリスクと適切な生成AIガバナンスは何か

 生成AIがもたらすリスク領域として、大きく「法律リスク」「技術リスク」「倫理リスク」の3つが挙げられる。「法律リスク」は国や国際機関が定める法律や規則への非遵守に関するリスク群、「技術リスク」は技術特性に起因したネガティブな要素や脆弱性への攻撃などに関するリスク群、「倫理リスク」は国や国際機関が定める倫理原則への非遵守、また一般社会から企業に求められる配慮への不足に関するリスク群である。

画像を説明するテキストなくても可

図表2:生成AIに関する代表的なリスクと該当領域

[クリックすると拡大します]

 生成AIに関する代表的なリスクとしては、ハルシネーション(虚偽情報の生成)、AI利用者からの機密情報漏洩、生成物の著作権/肖像権侵害、有害/差別的コンテンツの生成などがある。いずれも生成AIのもたらす新しいリスクだが、ひとたび発生するとこれまでのレピュテーションリスクなどと同様に、経営に大きなダメージを与えかねない。

 ここで難しいのは、生成AIそのものには自らが嘘をついているという意識はまったくないことだ。学習した情報に基づき、質問されたことに対して最もふさわしいテキストを推論し、アウトプットしているだけである。それが正しい情報かどうかは判断していない。

 情シスとしては、そのように事実と異なる答えを生成AIが吐き出してくるリスクがあることを認識しておく必要がある。その上でどのような対策が取れるだろうか。たとえば、インプットに使われる情報(参照データ)を情シス側として制限するのも一つの方法だ。競合他社の著作権/肖像権を侵害しないために、競合他社の情報は参照しないという仕組みにすることもできる。

 生成AIを提供する側と使う側が分断しないようにすることも必要だ。ブラックボックス的に答えを出すだけではなく、いつ、どのデータソースを参照した結果なのかをユーザーに明示することも大事だ。そうすればユーザー側でもアウトプットを確認した上で、その後の業務活用に対して一定の判断ができるだろう。

 また、生成AIが正確な情報をアウトプットしたとしても、それが差別的コンテンツであり、法律リスクや倫理リスクにつながることもある。これらを防ぐには、単純に技術的な側面だけでなく、自社のコンプライアンスなどに照らし合わせ、どこからが有害/差別的なのかといった判断を事前にしておく必要がある。先進企業では生成AI活用の活発化や事業化を促進するため、適切なガードレールを引いた上で、社内のコンプライアンス部門など他部署と連携しながら、生成AIリスク対応、ガバナンス組織の組成、ガイドライン策定、プロセス標準化を早期に行っている。

次のページ
論点4:情報システム部門も含めた社内リテラシー向上は必要か

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
生成AIの社内導入で、情シスが押さえておきたい「4つの論点」連載記事一覧
この記事の著者

三善 心平(ミヨシ シンペイ)

PwCコンサルティング合同会社 執行役員 パートナー日系自動車メーカーで生産管理・経営企画などに携わった後、外資系統計解析会社を経て、2015年にPwCコンサルティングに入社。22年から現職。AI・機械学習をビジネスに活用する構想の策定、実証実験から仕組み化、人材育成などのプロジェクトに従事。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

上野 大地(ウエノ ダイチ)

PwCコンサルティング合同会社 マネージャー日系デジタルマーケティング企業を経て、2018年にPwCコンサルティングに入社。主にバックオフィス、コーポレート業務におけるAI戦略ならびにAIを活用した業務効率化、実装プロジェクトに従事。企画、PoC、開発、運用/保守まで一貫して支援している。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/18415 2023/09/26 08:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング