Workday訴訟から考える「AIリスク」──ChatGPTなどAIブームの中で“向き合うべき”問い

Workdayに訴訟提起、身近になりつつある「AIリスク」

　2023年2月、米カリフォルニアにおいて人事システム大手Workdayに対する訴訟が提起された^[1]。

　訴状では、同社のAIを活用した選考スクリーニングのツールが、黒人や障がい者、40歳以上といった特定の属性を持つ候補者を不当に差別していると指摘されている。これは典型的な、AIの判断における「公平性（Fairness）」に係る問題提起である。

　この訴訟自体は係争中（2023年4月執筆時点）だが、この疑念が提起されたこと自体が、AIをビジネスで用いる際のリスクを示唆するものだ。後述する通り現在は、選考スクリーニングのような従来から広く活用されているAIだけでなく、ChatGPTをはじめとする「生成系AI」のさまざまなリスクも明らかになってきている。

　本稿ではこの事案をきっかけに、今加熱するAIブームの中で今後注意すべきリスクや、それに対する対策の方向性を議論したい。

加熱する「AIブーム」の中で、“向き合うべき”問い

　はじめに、基本的な認識として今考えるべきことは「AIを使うべきか、使わないべきか」ではなく、「AIをいかにして正しく使うべきか」である。

　2023年現在、いわゆる生成系AIの流行により「第4次AIブーム」とでも呼ぶべき動きが巻き起こっている。Transformerモデルをベースに作られたGPT-4やDALL-E2といったモデルが過去に類を見ない性能を持ち、爆発的に流行していることは誰もが知るところだろう。

　一方で、AIの急激な進化に対する懸念の声も上がっている。非営利団体のFLI（Future of Life Institute）が2023年3月、「GPT-4を超えるモデルの開発を一定期間停止する」ことを求めるオープンレターを公開したことなどは記憶に新しい^[2]。日本でも、一部の自治体や大学でChatGPTの活用を禁止する動きなどがあり、AIブームへの漠然とした不安を抱いている人も多いだろう。

　ここで必要なのは、冷静に事態を見つめることだ。

　言うまでもなくAIの活用は、社会課題の解決や企業・個人の生産性向上に大きく寄与する。消費者としての私たちもその恩恵を日々受けて暮らしている。

　さらに注目すべき点は、AIは単に人間のタスクを置き換えるだけではなく、時に人間よりも優れた出力を行えるということだ。

　実際、AIの意思決定は、人間による「無意識のバイアス（Unconscious Bias）」を防ぐために導入されることもある。冒頭で紹介したWorkdayの事例と同じ人材選考を例にとると、ソフトウェアエンジニアの採用において、AIによりスクリーニングした候補者は、人間の選んだ候補者よりも内定獲得率やオファー受諾率が高いといった研究結果もある^[3]。つまり、AIを上手く使うことで、職務適正を人間より適切に判断できる場合もあるということだ。

　もはや、こうした利点をもつAIを活用しない手はない。

　AIを「使うか、禁止するか」といった極端な二択に問題を落とし込まず、「AIが持つリスクをいかにして除去し、適切なガバナンスを構築するか」という、より複雑だが本質的な問いと向き合うことが求められている。