弁護士が指南、法的リスクを低減させる生成AI運用のポイント　“価値ある”ルール整備と運用のカギとは

知らぬ間に法に触れている可能性も？気を付けるべき「ハイリスクAI」

　次に田中氏は、EUのAI法で2つ目に定められている、禁止はされていないものの一定の要件を遵守しなければいけない「ハイリスクAI」について説明。企業活動に特に大きな影響を与えるハイリスクAIには、主に以下2つの類型があるという。

• 安全コンポネントであるハイリスクAI：既存のEU整合法令（例：EU玩具安全指令など）で第三者適合性評価が要求されるような、製品の安全コンポネントであるAIシステム
• 特定領域のハイリスクAI：特定の領域で活用されるAI。人材募集や選抜に使用されるAIシステム、労働関係の契約条件・昇進・解雇などに影響する決定を行うAIシステムなど

　「企業のなかでも、いわゆるHR領域のAIシステムはハイリスクなものに該当し、場合によっては使用が禁止されるケースもあります。ハイリスクAIにあたる場合のEU AI法対応の実務について、今後は標準化機関が策定する整合規格に合わせることが企業の現実的な対応になるでしょう」（田中氏）

　3つ目のAIリスクである「透明性リスク」は、比較的対応しやすい規制だという。たとえば何か成果物に対して、人間ではなくAIが生成したものであることを明示するといった対応が求められる。要は、AIが関与しているかわからないものについては、その旨を説明すればよいという内容だ。

　「なお、現在EUでは上記のような内容が厳格すぎるとして、規制を緩和するような議論も進んでいます。AI法の条文自体が改正される可能性は低いと思われますが、ガイドラインや実務規範、標準規格を通じてAI法の条文の枠内での一定の規制緩和がなされていく可能性があるのではないかと予想しています」（田中氏）

アメリカでの動向、トランプ政権でAI規制は排除されるのか？

　アメリカの政策については、2025年の政権交代にともない大きな変化があった。バイデン前大統領時代には一定の規制を行う大統領令が発令されていたが、現トランプ政権になって急遽その規制が撤回された。2025年5月22日に連邦議会の下院を通過した歳出・税制法案のなかで「10年間、いかなる州や政治的下位区分も、人工知能モデル、人工知能システム、または自動意思決定システムを規制する法律や規則を執行することはできない」と定められたのだ。つまり、政権交代によって“AI規制は不要”という方向に政策が転換していると考えられる。

　なお、この法案については下院を通過しているものの、上院での可決については疑問視する見方もある。憲法上の権限に関する問題や上院の規則により、歳出法案の中でのAI規制に関する条項は付随的すぎるという理由で、通常であれば可決されないはずだという。しかし田中氏は「予期せぬ展開がまったく生じないとは言えない状況だ」との見解も示した。

　また、同氏は2025年5月19日に成立した「Take It Down Act（Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act）」も紹介。この法律は、ディープフェイクをSNSなどで公開した場合に犯罪とし、プラットフォームに対して48時間以内の削除を求めることができる内容となっている。これは主にリベンジポルノ対策を目的としており、ディープフェイクを使用したケースも対象となる。

　グローバルなAI規制の動向では、同氏は中国の規制についても触れ、生成AIに特化した法律が制定されていることを紹介した。具体的には「共産主義に反する内容のAIは禁止される」といった内容規制が実施されており、アルゴリズムの規制やディープフェイクについても厳格な規制が設けられているとのことだ。