人間を脅かす「AIの精神的リスク」が訴訟の論点に──AIガバナンス実装に不可欠な5つの要素とは

AI「推進」と「抑制」のバランスをどう取るべきか

　多くの企業が業務効率化や事業拡大、また新規事業の創出に向けてAIの利活用を本格化させる一方、AIを取り巻くサイバーリスクも複雑化・高度化している。情報処理推進機構（IPA）が発表した「情報セキュリティ10大脅威 2026」では「AIの利用をめぐるサイバーリスク」が初選出されるなど、もはやAIに起因するサイバーセキュリティリスクは、経営の根幹を揺るがす深刻な課題として認識されつつある。

　このような状況下で企業に求められるのは「推進と抑制の適切なバランスだ」と指摘するのは、西村あさひ法律事務所・外国法共同事業 パートナー弁護士の北條孝佳氏だ。同氏は次のように述べる。

　「AIを推進・強化させるという方向性と、AIを抑制・禁止するという方向性、これらはどちらも重要です。どちらかに極端に注力するのではなく、両者のバランスをとって適切に対応していく必要があります」

　今後AIを前提とした未来が予測されるなか、単にリスクを恐れてAIの利活用を一律に禁止する対応は現実的とはいえない。一方で、十分なセキュリティ対策やガバナンスなしに利便性のみを追求すれば、予期せぬ事故が発生した場合の法的責任や企業ブランド価値の毀損を招きかねない。AIを安全にコントロールしつつ、その便益を最大化するための包括的な戦略の策定が、現在のエンタープライズITにおける最優先事項となりつつある。

人間の「精神」も保護対象？ 従来の対策でAIリスクが防ぎきれない理由

　AIがもたらす不確実性に対抗するため、政府も様々な対策を講じている。その一つが、国内企業のガバナンス構築における一つの指針「AI事業者ガイドライン」の策定だ。同ガイドラインでは、AIに関わる主体を「AI開発者」「AI提供者」「AI利用者」の3つに分類し、それぞれが取り組むべき指針を提示している。

　同ガイドラインでは、すべての主体に求められるいくつかの共通原則があるが、そのなかでも特に「安全性」を意識すべきだと北條氏。これについて、同氏はガイドラインの記載を引用しながら次のように解説する。

　「ガイドラインには、『生命・身体・財産に危害を及ぼすことがないようにすべきである。加えて、精神および環境に危害を及ぼすことがないようにすることが重要である』ということが謳われています。ここで注目すべきなのは、保護の対象に『精神』が含まれていること。つまり、人間の心理や意思決定に影響するといった、従来必ずしもITセキュリティの対象とされていなかった問題に対しても、AIシステムが負の影響を与えないよう配慮し、安全性を担保することが開発者や提供者、利用者に問われているのです」

　この安全性を技術的な側面から補強するため、北條氏も構成員として参画する総務省の分科会において「AIのセキュリティ確保のための技術的対策に係るガイドライン」（案）の取りまとめが進められているという。AIに関連するサイバー攻撃は日々進化しており、企業はこれまでの一般的なITセキュリティの延長線上ではなく、AI固有の脆弱性を狙った新たな脅威に対する「技術的対策」が求められるのだ。