量子AIなどに注目集まるも「ガバナンスなき実装は必ず失敗する」──SASの最高データ倫理責任者が提言

多くの組織がAI実装で「上層部の承認」に苦戦、どう理解を促していくか

　ユーザーが直面する複雑なAIガバナンスの課題に対し、SASは2024年4月に開催された「SAS Innovat 2024」（米国ネバダ州ラスベガス開催）にて、顧客向けの無料サービス「AIガバナンス・アドバイザリーサービス」を発表した。

　このサービスでは、NIST（米国立標準技術研究所）のAIリスク管理フレームワークに準拠し、前述のとおり監視・運用・統制・文化の4つの分野で、組織のAIガバナンス成熟度を評価する。提供開始して1年あまり経つが、顧客からの評価は高いようだ。理由として、SASが徹底的な「客観性の維持」を守っている点があるという。

　「我々はあくまでも客観的な当事者であり、顧客もそれを期待しています。普段のSASはソフトウェアを販売する立場ですが、AIガバナンス諮問チームはソフトウェアの話をするためにいるのではありません。ですから、『ソフトウェアが何をするか』ではなく、『ガバナンスとは何か』について話をします」（タウンゼンド氏）

　1年ほど顧客の相談を受ける中で、どういった課題に向き合ってきたのか。AIの実装段階では、AIガバナンスの整備に必要な作業を行うための、十分な組織的承認を得られずに行き詰っているケースが多かったという。

　「特に公的部門では、構造的な課題が深刻だ」とタウンゼンド氏。民間企業であれば新技術に対応するため組織を自由に再編できるが、政府機関はそうもいかない。多くの国では、法律で各組織の設置目的が決められており、簡単には変更できないからだ。この課題の根深さは、AIガバナンスが単なる技術導入の話ではなく、経営課題の話となっていることに起因する。

　「AIガバナンスは、ツールを導入して完了する問題ではありません。そのため、いかなる組織においても一般的には最高レベルまでの議論と意思決定が必要となります。理解を促して承認を得る難しさもありますし、既存の体制を変えるとなると意思決定にも時間がかかるでしょう」（タウンゼンド氏）

　組織内で、この問題を優先事項として扱ってもらうのも簡単ではない。経営層や役職者に認知され、重要性を理解してもらうことは案外難しく、組織の体制や文化によってはコミュニケーションに断絶がある場合もある。そのため、SASが手がける支援では、可能な限り経営層との直接対話を重視しているそうだ。

　ここまでを踏まえ、タウンゼンド氏は「AIガバナンスの成功には、テクノロジー以上に組織変革への覚悟が必要だ」と総括した。