規制一辺倒の時代は終焉──AIガバナンス“潮目”の2025年、経営層の「法的義務」にどう備える？

AIは“敵”にも“友”にもなる？二面性の脅威

　羽深氏はセッションの冒頭、「AIはセキュリティにとって敵にも友にもなる」ことを指摘した。AIが新たなリスクをもたらす“敵”になる一方、そうした脅威に対抗する武器として活用することで、“友”にも成り得るということだ。

　昨今、特に国内ではどのようなAIリスクが懸念されているのか。羽深氏は、IPA（情報処理推進機構）が公表している「AIによるセキュリティリスク」として、以下5つを紹介した。

1. AIによって強化された従来型のサイバー攻撃
2. ディープフェイクなどの偽情報
3. AIシステムを対象とする破壊・誤作動の惹起
4. AIによる国家安全保障上の脅威
5. 生成AIの誤⽤によるビジネスリスク

　AIシステムに対するサイバー攻撃の手法は多様化している。AISI（AIセーフティ・インスティテュート）によれば、攻撃は大きく“開発段階”と“運用段階”に分けられる。開発段階では「モデルポイズニング」「データポイズニング」など、AIの機能そのものを不適切にするような悪質なデータを学習段階で混入させる手法が確認されているという。

　運用段階では「モデル抽出攻撃」や「プロンプトインジェクション攻撃」といった新たな脅威が登場している。羽深氏は「プロンプトの中に不適切な言葉を入れ込むことで、不適切なアウトプットを出させる攻撃も存在します」と説明し、従来のサイバーセキュリティの枠組みを超えた対策の必要性を強調した。

　このような状況を踏まえ、同氏はAIガバナンスを考える上で重要な点として、リスクを「技術的リスク」と「社会的リスク」に分けて考える視点を提示する。

　技術的リスクは、AIが確率統計に基づく判断を行うことで生じる。「AIは、アウトプットとして最も適切と思われるものを確率的に算出するため、誤った判定を完全に避けることはできません」と羽深氏。学習データに含まれる差別などの不適切なバイアスがそのまま反映される問題や、生成AIにおけるハルシネーション（虚偽情報の生成）などがこの技術的リスクに起因する。自動運転車のような物理的システムでは安全性の問題にも直結する重大な課題だ。

　一方、社会的リスクは「AIが技術的に未熟だからではなく、むしろAIがすごすぎるがために社会に生じるもの」だという。代表例がプライバシー侵害だ。同氏は「これまで活用が難しかったデータを用いて、AIで個人の思考や将来行動を精緻に予測できるようになったことで生じているリスクといえます」と説明する。

　その他、ディープフェイクによる民主主義への脅威、悪意ある目的での利用、経済への影響、知的財産権の問題、そして環境負荷の増大も深刻な社会的リスクとして挙げられる。特に環境負荷について、羽深氏は「今後より多くの人がより高度なAIを使うようになると、環境負荷はますます高くなり、我々の生活環境に大きな影響を及ぼすようになっていくと考えられます」と長期的な視点を示した。