SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

Data Tech 2024

2024年11月21日(木)オンライン開催

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けの講座「EnterpriseZine Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。

お申し込み受付中!

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2024年夏号(EnterpriseZine Press 2024 Summer)特集『ニューリーダーに訊く──2024年春、CxOに就任した2人が目指す姿とは』

AI事件簿 ~思わぬトラップとその対策~

米国では「AIが法律違反を推奨」で大混乱?実際に起きたインシデントから学ぶ“AIリスク対処法”

【file.01】導入編:AIリスクに関する国際的な動きと事例

 生成AIの登場によって、AIは専門家だけが扱えるものから、一般企業や個人でも手軽に活用できるものへと変化しました。生成AIは市場を一変させるツールとして注目を集める一方、その利便性の裏に潜むリスクも増大しています。AIを活用する企業にとって、これらのリスクを適切に理解し、管理することが今後のビジネス成功の鍵となるでしょう。連載「AI事件簿 ~思わぬトラップとその対策~」では、過去のAIに関するインシデント事例や先人たちの教訓をもとに具体的なリスク対策を解説。AI技術を活用する上で避けては通れない「AIリスク」とは何か、それにどう対応すべきかなどを紐解きます。

AIリスクは質量ともに爆発的に増加中

 AI技術と一口に言っても非常に広範で、その活用分野も多岐にわたりますが、一般的にビジネスで使用されるAI技術は大きく「予測AI」と「生成AI」に分けられます。予測AIは、過去のデータを基に将来のトレンドや需要を予測する技術。たとえば、消費者の購買行動を予測したり、信用リスクを評価したりと、主にデータ分析に基づく意思決定をサポートするものです。一方、生成AIは膨大なデータによって学習されたモデルを元に、新たなテキスト、画像、音声などを生成する技術。特に、自然な文章の作成やクリエイティブなデザインを自動で生成する能力を持っていることが特長といえます。

AIの分類
[画像クリックで拡大]

 しかし、生成AIはその柔軟性ゆえに、予測AIとは異なる特有のリスクを抱えています。たとえば、誤った情報や倫理的に問題のあるコンテンツを生成する可能性が高く、悪意のあるユーザーが意図的にAIを悪用するリスクがあるのです。また、生成AIの性質上、ユーザーの意図とは異なる回答が出力されることも少なくありません。

 これらのリスクは、私たちの社会において既にインシデントという形で発生しています。直近の例を見ると、2024年4月にニューヨーク市で発生したAIチャットボットのインシデントでは、「セクハラを訴えた社員を解雇するのは合法」などとAIが法律違反を勧める助言を行い、社会的な批判を招いたことで物議を醸しました。AIリスクは、技術進展の速度にともなって質的・量的に増大し続けており、適切に対応できない企業はそのビジネスも危機に晒される可能性を否定できません

AIリスクの管理に向けた国際的な取り組み

 AIリスクの適切な管理に向けた動きは国際的にも活発化しており、各国の政府機関や国際的な組織が様々な取り組みを進めています。たとえば米国では、バイデン政権が「AIの安全な開発と利用」を推進するための大統領令を発令。大手AI企業に対して自主的なリスク管理の取り組みを求めています。また、米国の国家安全保障局(NSA)やアメリカ国立標準技術研究所(NIST)などが中心となり、AI技術の社会実装に関するガイドラインの策定も進んでいます。

 一方、EUではAIの規制法「EU AI Act(欧州AI規制法)」が発効され、AI技術を使用する企業に対して厳しいガバナンスを強制。この規制法によって、AIシステムの透明性、説明可能性、セキュリティ基準を徹底し、違反した場合には多額の罰金が課される仕組みが整えられました。

 日本においても経済産業省と総務省が「AI事業者ガイドライン」を公表し、広範なAI事業者向けにAIリスク管理を促しています。さらに民間では、AIガバナンス協会のような民間団体が設立されるなど、政府、企業、学術機関が連携してAIリスクの管理と技術開発のバランスを図ることを目指した取り組みが進められています。

[画像クリックで拡大]

次のページ
RAGやファインチューニングの「落とし穴」とは

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
この記事の著者

平田 泰一(ヒラタ ヤスカズ)

Robust Intelligence Country Manager, Cisco Business Development Managerを務める。Accenture, Deloitte, Akamai, VMware, DataRobotなどを経て、デジタル戦略・組織構築・ガバナンス策定・セキ...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/article/detail/20462 2024/11/07 08:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング