塩野義製薬が挑むAI活用と医療倫理の両立／生成AIによるメディカルライティングの実践

AI倫理を担保するための3つの施策：Data Ethics Canvas、リスク評価、MLOpsトレーサビリティ

　どんなに高い倫理観を持ち合わせていても、ルールにがんじがらめになり、"攻め"の取り組みのスピードを阻害することを避けたいと考える人たちがいる。だからこそ、「仕組みの部分にバランスが必要になる」と木口氏は述べ、3つの施策を紹介した。

　1つ目は、Data Ethics Canvasを用いた自組織の評価である。Data Ethics Canvasとは、データ活用を伴うさまざまなプロジェクトで注意すべき点をまとめたもので、塩野義製薬では、開発元のOpen Data Institute（ODI）の許諾を得て作成された日本語版を利用している。これをデータサイエンス部の活動に照らし合わせ、倫理観の醸成と、顕在的あるいは潜在的リスクへの対策に使っているという。例えば、あるエビデンスを外部に発信することで、社会にとってプラスの影響があるかを考えるだけでなく、マイナスの影響はないのか。あるとすると、そのマイナスの影響を小さくするにはどうすればいいかを考える。プラスとマイナスの両方の影響を常に意識し、データサイエンス活動を進めている。

　2つ目はリスク評価の実施である。塩野義製薬では、臨床試験における解析業務で必要なSASプログラムを自動で生成する「AI-SAS」を、自社利用するだけでなく、外部にも有償で提供している。AIやデータに関する倫理に敏感な海外の動きに倣い、EU AI Actなどに当てはめた包括的なテンプレートを用いて、リスク評価を実施している。木口氏は、「AI-SASを外部に提供する上で、業務効率を高めるシステムであると訴えるだけでなく、これを使うことのリスクの評価結果も合わせて紹介することが重要と考えるため」と、その意図を説明した。

　 3つ目の施策は、データを収集し、解析し、成果物を得るまでのMLOpsのプロセス全体でトレーサビリティを担保できる仕組みを構築したことだ。前述したように、最新のテクノロジーを使って望ましい成果物が得られた場合、安心してその成果物を採用するには、できた経緯を説明できること、透明性を担保することが非常に重要だ。塩野義製薬では、「機械でできることは機械にやってもらう」方針で、誰が何を使って解析し、その成果の精度はどうなったかをわかる仕組みを構築し、運用を始めた。

　「日本ではデータ倫理についての議論を深める機会が少なかったが、考える機会にしてもらえたらうれしい」と木口氏は締め括った。