「AIに自社データを学習させない」は本当に守られている？“SaaSに隠れたAI”を炙り出す4つの観点

AI活用を阻む3大リスク──ハルシネーションが損害を招いた例も

　昨今、AIが日常業務にも組み込まれ、ビジネスにおける「より深い活用」が模索されるようになってきたが、実はAIの定義そのものはいまだ明確ではない。経済産業省と総務省が公表する「AI事業者ガイドライン（第1.1版）」によれば、現時点で確立された定義はないものとしつつ、「AIシステム自体または機械学習をするソフトウェアもしくはプログラムを含む抽象的な概念」と位置付けている。

　AI事業者ガイドラインでは、AIを取り巻く主体を「AI開発者」「AI提供者」「AI利用者」「業務外利用者」の4つに分けて整理している。この具体例として、植木氏は無人コンビニエンスストア（以下、コンビニ）に決済を効率化するAIを導入するケースを挙げた。この場合、コンビニ決済を行うAIを開発するのがAI開発者、それをシステムに組み込んで店舗にサービスとして提供するのがAI提供者、実際に運用するコンビニ店舗がAI利用者、そして簡易決済の便益を受けるコンビニ利用客が業務外利用者にあたる。「自社がどの立場にあるかによって負うべきリスクと責任の範囲が異なるため、これを把握しておくことは非常に重要だ」と植木氏は述べた。

　では、AIを取り巻くリスクとは具体的にどのようなものか。情報処理推進機構（IPA）が公表する「情報セキュリティ白書2025」では、英国の科学・イノベーション・技術省（DSIT）の報告書に基づき、AIリスクを以下3つに分類している。

　1つ目は「AIの悪用がもたらすリスク」。サイバー犯罪者によるディープフェイクを悪用した詐欺・恐喝・偽情報拡散のほか、技術的ハードルの低下によるサイバー攻撃実践者の増加、またCBRN（Chemical/Biological/Radiological/Nuclear）兵器の開発に転用される可能性なども指摘されている。

　2つ目の「AIの不適切動作によるリスク」は、利用者の意図しない動作によって生じるものだ。代表例とされるハルシネーションに関しては、政府から依頼を受けたコンサルティングファームが生成AIを活用して作成したレポート上に、実際は存在しない論文・判例の引用があったとして、コンサルティングファームが政府に返金することとなった事例が紹介された。

　またAIのバイアスによるリスクも考慮する必要がある。例として同氏は、過去の採用データにおいて男女比率に偏りがあったことで、AIが女性応募者を不当に低評価したIT企業のケースを紹介した。さらに、AIが評価コードの抜け穴を悪用して見かけ上の高速化を達成した「コントロールの喪失」が招くリスク事例も示し、「AIに何かの仕事を任せる際には、その結果を人間がしっかりとチェックする必要がある」と、最終的には人間がチェックすることの重要性を説いた。

　3つ目のリスクは「システミックリスク」だ。これはAIそのものが正常に動作していても、社会へのAI浸透の過程で様々なバランスが崩れ、被害が生じるリスクを指す。

　植木氏はまた、Microsoftが公開している「AI shared responsibility model（AI共有責任モデル）」にも言及した。SaaSにおいてはAIの仕組みをクラウドサービス事業者に委ねる部分が多くなる一方、ユーザー教育や利用ポリシー・データガバナンスはAI利用者側が担う部分だ。「こうしたAI共有責任モデルを参考に、自分たちがどの立場にいるのかを正確に把握した上で、リスク対策の範囲を決めることが重要です」と強調した。