量子AIなどに注目集まるも「ガバナンスなき実装は必ず失敗する」──SASの最高データ倫理責任者が提言

リスク管理では一歩進む金融業界も、AIリスクの台頭で変化が

　タウンゼンド氏は、これまで米国ホワイトハウスへAI政策の助言を行ったほか、国家人工知能諮問委員会のメンバーも務めるなど、データ倫理の第一人者として知られる。SAS Institute（以下、SAS）ではデータ倫理の最高責任者として、同社のAI製品開発から市場戦略まで、「倫理・バイ・デザイン（Ethics by Design）」アプローチを推進している。

　グループインタビューは、「金融業界におけるAIリスク管理の課題」というピンポイントな話題から始まった。「金融業界では昔からAIは活用されてきたため、他の業界に比べてノウハウが蓄積されている」とタウンゼンド氏。銀行の詐欺検知システムなどが良い例だ。また、融資先・投資先の信用状態を評価する信用リスクモデルの存在など、リスク管理の面では一日の長がある。

　「特に銀行では、長年の運用の中で組織内の標準がある程度出来上がっており、プラクティスも持ち合わせています。さらに、非常に厳格なルール・規制が存在する中で何事も運用する文化があるため、既存のリスク管理体制もレベルが高いです」（タウンゼンド氏）

　しかし、新たな課題も浮上しているという。それは、AIの適用拡大による管理の複雑化だ。大手銀行では、すでにAIモデルのリスク管理を行う専門部署を立ち上げているところが多いが、最近ではServiceNowやWorkdayなど、様々な業務システムにもAIが組み込まれてきており、管理すべき範囲が難しくなっているようだ。

　こうした問題から、多くの金融機関で組織再編が進んでいる。タウンゼンド氏は「現状、AIモデルのリスクを管理してきたチームが、より大きな『AIガバナンスチーム』に統合されていくケースが最も多いと感じる。ただ、AIガバナンスの中でもリスクの部分により焦点を当てるため、部署を細かく分離しているケースも一部見られる」と、各組織が多様なアプローチを試行錯誤している様子を明かした。何が正しいアプローチなのか、まだ結論は出ていないという。

　金融機関が信頼性を維持していくうえでは、“規制当局”と“消費者”という、異なる2つの要求へ対応しなければならない。規制当局からのニーズに応えるためにはシステムの監査可能性が必要で、十分なレベルの透明性と、「なぜこの人に信用を与えて、あの人には与えないのか」を説明できることが求められる。一方で、消費者向けにはそうしたプロセスはほとんど公開されることがない。

　ただし、銀行の内部では「信用に値する or 値しない」「この人の信用度は、これだけの金額に値する」といったパラメータが日常的に設定されている。この仕組みが、「AIによって変わるかもしれない」とタウンゼンド氏。データと進化したシミュレーション技術を活用すれば、従来よりも精密な分析に基づいてリスクを測れるようになり、これまで融資の対象から外れがちだった人々にも機会がもたらされるのではないかと述べた。

　これは、銀行にとっては「投資不足の領域に参入できる」チャンスになる。SASもこのニーズに対する支援に注力していきたいとのことだ。