AI時代だからこそ、レガシーな技術が活きる──データ人材はAIとの対話で“人間性”を失ってはならない

ミッションクリティカルな業界でも進むAI活用、“透明性の担保”が絶対条件

　ところで、SASがAI活用において主張しつづけているのがAIの“安全性”だが、同社では「信頼できるAI」をどう定義しているのか。ピーターソン氏は、SASのコア哲学から説明を始めた。「SASのR＆D部門で働いていると、ごく早い段階で『数字は常に正しくなければならない』ということを学ぶ」という。

　厳格さの理由は明快だ。世界中の顧客が、その分析上の計算をもとに自社の事業を動かしており、同社の主な顧客であるヘルス＆ライフサイエンス分野の医薬品における意思決定や不正の検知、社会的な重みをもつ判断を、その計算が支えているからだ。

　この哲学を土台に置いたまま、SASはユーザーがAIの恩恵を受けられるツールを構築しようとしている。同氏は「機能を追加していく過程で、私たちの魂を失うわけにはいかない」と続けた。

　AIの活用と正確な計算技術を両立するために、同社は「可視化」という手立てを講じる。SASのツールは、利用者に代わって作業を進める一方で、その過程がすべて利用者の画面上で確認できるよう作られている。フローを構築するよう指示すれば、組みあがる様子が目の前で進む。いつでもAIが何をしたのかを参照できる状態にしておけるのだ。「信頼を構成する大きな要素の1つは透明性だ」とピーターソン氏は語る。

　「透明性の担保は、私たちがサービスを提供するにあたって“絶対に譲れない条件”です。50年かけて顧客との間に築きあげてきた信頼を損なうようなAI機能を、私たちのソフトウェアに追加するわけにはいきません」（ピーターソン氏）

　金融やヘルス＆ライフサイエンスというミッションクリティカルな領域でも、AI活用の需要は高まっている。同氏によると、金融機関の主な関心は「SAS Viya」に組み込まれた「SAS Viya Copilot」のような機能でAIを活用し、業務を効率化させることにあるという。

　一方、ヘルス＆ライフサイエンス分野で大きな要件になっているのが、ローカルLLMだ。すべてのやりとりが外部のAPIへ出ていくのではなく、知的財産を失うリスクを避けるために社内へ留めたい、というニーズがあるそうだ。

　同分野は、法による規制も厳しい。「今日のモデルの性能が、明日も同様の性能であることを把握しておく必要がある」と同氏は指摘した。AIモデルは、規制業界が慣れているのとはまったく異なるペースで変化している。ローカルLLMには、完全に凍結しないまでも、外部の世界より緩やかなペースで進められる利点もあるため、需要が高まっているとした。