RAGだけでは拭えないAIの信頼性への懸念……データを“AIが使える安全なもの”に変える基盤構築術

精度が低い、ソースが不明……“生成AIの信頼”への課題

　昨今、多くの企業が生成AIを積極的に導入し、業務利用の可能性を探っている。しかし、実際に日々の業務の中で本格的に活用して大きな成果を上げているケースは決して多くなく、大半はPoCの段階で足踏みを強いられているのが実情だ。その主な理由について、新郷氏は次のように考察する。

　「ハルシネーションの問題に代表されるように、生成AIの回答結果の精度がなかなか担保できないため、現時点ではまだ『本格的に業務利用するには回答精度が不足している』と判断している企業が多いように思います。また、LLMは学習したデータに基づいて回答を生成するので、まだ学習していない事柄については答えることができません。そのため、最新のトピックについては答えられないという『情報の鮮度』の問題も存在します」（新郷氏）

　また、生成AIの回答がどんなソースに基づいて生成されたのか、ユーザー側はうかがい知れないため、回答の信頼性がどこまで担保されているのか容易に判別が付かない。この点も、企業が生成AIの本格導入を躊躇する要因の1つになっているという。

　加えて、大半の生成AIはインターネット上に公開されているデータを学習してモデルが構築されているため、インターネットに公開されていないナレッジは扱うことができない。つまり、企業や組織の内部に閉じて利用されているナレッジや情報を扱う業務への適用が難しいのだ。

　近年、この欠点を補うため「RAG（Retrieval-Augmented Generation）」を導入する企業も増えてきているが、業務利用に耐えられるだけの精度を達成・維持するためにはいくつかの技術ハードルを越える必要があり、必ずしもすべての企業・組織が使いこなせるわけではない。

　さらに、安全に利用するためにはガバナンスの課題も乗り越える必要がある。たとえば、RAGを使って自社特有のデータを生成AIに取り込んで利用する場合、生成AIの回答内容に問題があったときに「どのデータに問題があったのか」を素早く突き止めるために、データガバナンスの仕組みを適切に構築しておく必要がある。しかし実際には、そのようなガバナンスの体制やプロセスを確立できている例は少なく、結果的に「どの企業でも生成AIのPoCは積極的に実施するものの、その大半が実運用にまで至っていない」のが実情だという。

　こうした生成AIの業務利用にまつわる諸課題に対して、アルテリックス・ジャパンではデータマネジメントの観点から独自のソリューションを提供している。それがデータプラットフォーム製品「Alteryx」だ。Alteryxを利用すれば、ノーコード／ローコードツールを介して非エンジニア人材が容易にデータを集計・加工・分析できるという。