弁護士が指南、法的リスクを低減させる生成AI運用のポイント　“価値ある”ルール整備と運用のカギとは

信じすぎるな、生成AI──あくまで確率で動く仕組み

　田中氏は講演冒頭、企業が生成AIを活用するにあたって理解すべき基本的な仕組みを紹介した。生成AIに用いられる大規模言語モデル（LLM）は人間のように一定の主義・思想を持って出力をしているのではなく、次に続く言葉の出現確率に基づいて出力される。つまり、確率的な処理で“それらしい文章”を構成しているのだ。

　この構造に起因する問題として、田中氏は「ハルシネーション（幻覚）」現象をあげる。アメリカのリーガル分野では、生成AIが示した判例を弁護士がそのまま裁判所に提出したところ、それが存在しない判例だったという事例があった。「それらしい判例をもっともらしく作り出してしまうのは、LLMが確率に基づいた出力である以上、当然に想定される結果だ」と同氏は述べる。

　企業における生成AIの活用形態については、一般向けサービスの利用とAPI利用の二通りがある。企業ではAPIを通じてAIを使用するケースが多く、個人情報・機密情報の扱いについての合意を生成AI提供事業者が代替してくれていることも多い。

　一方、一般向けのサービスを利用する場合、個人情報・機密情報の扱いについて“特別な約束はない”ケースが多い。APIなどを利用して“特別な約束がある”サービスを活用することは、個人データを扱う企業にとって重要な配慮だといえる。

　また、技術的な活用手法として同氏はファインチューニングとRAG（Retrieval-Augmented Generation）の違いを解説。ファインチューニングは、技術的制約や出力の不安定化から実際にはあまり使われていない一方、RAGは「自社の情報をデータベース化し、それをもとに回答の精度を高められる、モデル自体は変えず与える情報によって精度を向上させる実用性の高い方式」だとし、ハルシネーションの抑制にも有効だと評価した。

世界はどう動く？AI規制と企業への影響

　続いて田中氏は、グローバルなAI規制の動向に言及した。まず日本では、既存の法令を解釈したうえでそれを生成AIにも適用し、AIの特別法を作らず法的な強制力がないガイドラインによって規律する“ソフトロー”的アプローチが用いられている。ガイドラインとしては、経済産業省と総務省が発表した『AI事業者ガイドライン（1.1版）』が重要な指針とされている。さらに、最近は『日本版AI法（人工知能関連技術の研究開発及び活用の推進に関する法律）』が成立。この法律については「罰則をともなわない点で、後述するEUのAI法とは異質。研究開発を奨励する一方、悪用の恐れがある技術に対しては情報提供を求め、共有を促す内容になっている」と述べた。

　一方、EUのAI法では厳格なアプローチが採用されているという。具体的にはリスクベースのアプローチを採用しており、AIのリスクを4つのカテゴリー「①許容できないリスク」「②ハイリスク」「③透明性のリスク」「④最小リスク」に分類している。この制度設計により、リスクレベルに応じた段階的な規制を実現しているとのことだ。

　また、制裁金はEU域内における個人データの保護を目的としたGDPRと類似の仕組みになっている。たとえば、「許容できないリスクのあるAIシステムの禁止」に対する違反においては、前会計年度における全世界の売上総額の7％もしくは3,500万ユーロといった高い金額が上限として設定されており、違反企業には重い制裁が科される可能性がある。

　「許容できないリスクのあるAIシステムとして、たとえば職場や教育機関での“感情推測を行うAIシステム”があげられる」と田中氏。そもそもこのようなシステムの市場投入・サービス提供・使用は禁止されているが、医療や一部の安全目的では例外的に使用が許可されている。職場や教育機関において、「この人は今どう思っているのか」「仕事をさぼっているのではないか」といった感情を推測するニーズは高いが、禁止されているのが現状だ。