RAGだけでは拭えないAIの信頼性への懸念……データを“AIが使える安全なもの”に変える基盤構築術

精度が低い、ソースが不明……“生成AIの信頼”への課題

　昨今、多くの企業が生成AIを積極的に導入し、業務利用の可能性を探っている。しかし、実際に日々の業務の中で本格的に活用して大きな成果を上げているケースは決して多くなく、大半はPoCの段階で足踏みを強いられているのが実情だ。その主な理由について、新郷氏は次のように考察する。

　「ハルシネーションの問題に代表されるように、生成AIの回答結果の精度がなかなか担保できないため、現時点ではまだ『本格的に業務利用するには回答精度が不足している』と判断している企業が多いように思います。また、LLMは学習したデータに基づいて回答を生成するので、まだ学習していない事柄については答えることができません。そのため、最新のトピックについては答えられないという『情報の鮮度』の問題も存在します」（新郷氏）

　また、生成AIの回答がどんなソースに基づいて生成されたのか、ユーザー側はうかがい知れないため、回答の信頼性がどこまで担保されているのか容易に判別が付かない。この点も、企業が生成AIの本格導入を躊躇する要因の1つになっているという。

　加えて、大半の生成AIはインターネット上に公開されているデータを学習してモデルが構築されているため、インターネットに公開されていないナレッジは扱うことができない。つまり、企業や組織の内部に閉じて利用されているナレッジや情報を扱う業務への適用が難しいのだ。

　近年、この欠点を補うため「RAG（Retrieval-Augmented Generation）」を導入する企業も増えてきているが、業務利用に耐えられるだけの精度を達成・維持するためにはいくつかの技術ハードルを越える必要があり、必ずしもすべての企業・組織が使いこなせるわけではない。

　さらに、安全に利用するためにはガバナンスの課題も乗り越える必要がある。たとえば、RAGを使って自社特有のデータを生成AIに取り込んで利用する場合、生成AIの回答内容に問題があったときに「どのデータに問題があったのか」を素早く突き止めるために、データガバナンスの仕組みを適切に構築しておく必要がある。しかし実際には、そのようなガバナンスの体制やプロセスを確立できている例は少なく、結果的に「どの企業でも生成AIのPoCは積極的に実施するものの、その大半が実運用にまで至っていない」のが実情だという。

　こうした生成AIの業務利用にまつわる諸課題に対して、アルテリックス・ジャパンではデータマネジメントの観点から独自のソリューションを提供している。それがデータプラットフォーム製品「Alteryx」だ。Alteryxを利用すれば、ノーコード／ローコードツールを介して非エンジニア人材が容易にデータを集計・加工・分析できるという。

生成AIの登場で脚光浴びる「Alteryx」の真価とは

　Alteryxはこれまで、ビッグデータ分析や機械学習AIなどの用途で広く利用されてきたが、近年では生成AIの文脈で同社のソリューションがあらためてクローズアップされていると新郷氏は述べる。

　「従来のAlteryxの用途は、様々なデータソースからデータを集めてきて、それらを分析に適した形に加工・変換した上でデータウェアハウスやデータレイクに格納するというものでした。しかし生成AIの時代になり、データのアウトプット先が生成AIやRAG環境のベクトルデータベースになるようなユースケースが増えてきました」（新郷氏）

　Alteryxの内部で行われるデータの加工・変換処理に関しても、従来の加工・変換ロジックを使う代わりに、生成AIに処理を依頼することで、はるかにシンプルかつ容易にデータパイプラインを設計・構築できるようになるという。

　Alteryxは元々、ノーコード／ローコードツール上のドラッグ＆ドロップ操作で部品をGUIに配置し、それらを組み合わせることで、誰もが簡単にデータ加工・変換処理を実装できる点を強みとしてきた。最新版のAlteryxはこれに加えて、生成AIへのデータ処理の依頼も、同じくGUI上のドラッグ＆ドロップ操作だけで簡単に実装できる。場合によっては、従来の設計手法より短期間でデータ加工・変換処理を設計・実装できるようになっているのだ。

生成AIモデルの比較検討も。データの信ぴょう性を担保

　こうしたAlteryxの機能を活用することで、冒頭で挙げた生成AI利用にまつわる課題の多くを解決できると新郷氏は力説する。

　「生成AIはロジックがブラックボックス化されているため、回答の精度や信頼性を担保するのが難しいと考えられてきました。その点、Alteryxは複数の生成AIモデルのアウトプットを比較検証し、回答の妥当性を評価することで、ハルシネーションの問題に対処できる機能を備えています。また生成AIが生成した回答の内容と元データの内容を自動的に突合して、整合性をチェックすることもできます」（新郷氏）

　「生成AIの回答がどんなソース情報に基づいて生成されたのか分からない」という課題に対しても、Alteryxは生成AIに対して入力されたデータや出力されたデータ、あるいはデータの加工プロセスなどに関する詳細なログデータを採取し、それをもとにデータのトレーサビリティを確保できるため、ガバナンスも担保できる。

　このような「データリネージ」の仕組みを構築することで、生成AIが出した回答の再現性も担保できるようになる。ひいては生成AIを既存システムと安定的に連携できるようになり、業務プロセスの中に安心して組み込むことが可能になるのだ。

　また、複数の生成AIモデルの精度やパフォーマンス、コストを定量的な評価指標をもとに比較する機能や、各モデルの出力内容を比較検証する機能も備えている。これらの機能を活用することで、企業が自社のユースケースに最適な生成AIモデルを選定する際に有力な検討材料を提供してくれると新郷氏は強調する。

　「Alteryxは、エンタープライズ企業が生成AIを安全・確実に業務利用するために必要な『AIデータクリアリングハウス』の機能を提供します。この機能を活用することで、企業は生成AIを有効活用できるようになり、既存業務の効率と品質を向上させると同時に、ガバナンスも高められます」（新郷氏）

データ処理の中に生成AIを取り込む：名寄せ処理も簡素化

　Alteryxを用いて実際に生成AIを業務プロセスに組み込んだ例として、新郷氏は「名寄せ処理」のユースケースを紹介した。人名や社名などの固有名詞の「半角・全角表記」を統一し、名寄せを行う処理は多くの業務システムで行われているものだ。Alteryxの既存機能でもこれまでローコード／ノーコードツールを通じて名寄せ処理をシンプルに実装する手段を提供してきた。

　そこに生成AIをうまく取り込むことで、従来の名寄せ処理のロジックより簡単に処理を設計・実装できるようになるという。これまでは多数のロジック部品を組み合わせる必要があった半角・全角の統一処理も、生成AIに対して適切なプロンプトを投入するだけで簡単に実装できる。実際にこの処理を実装するためには、GUI上で「LLMの選択処理」の部品と「名寄せ処理の設定・実行」の部品を配置して、両者を線で結ぶだけで済むという。

　こうしてAlteryxの処理フローの中に生成AIを組み込んで実行できるメリットについて、新郷氏は「あらかじめプロンプトを定義しておくことで、必ず毎回同じプロンプトが生成AIに投入され、回答内容に揺らぎが生じることを防げます」と説明する。

　さらに、生成AIが行った名寄せ処理の結果をチェックするロジックも、既に紹介したようにAlteryxにあらかじめ組み込まれているチェックロジックをノーコード／ローコードツール上で部品として呼び出して、GUIに配置するだけで簡単に設計・実装できる。

　「このように、短時間のうちに実装した生成AIのデータ処理ロジックを、スケジューリング機能により自動実行できる点もAlteryxの大きな特徴です。接続認証機能やログ取得機能も充実しており、厳しいガバナンス要件にも応えることができます。こうした仕組みを通じて、生成AI時代にふさわしい透明性と信頼性の高いデータ処理基盤を提供していきたいと考えています」（新郷氏）

データ主導の意思決定がかつてなく重要に

誰もが必要な時に必要なインサイトを手に入れられる環境を実現しませんか？
ぜひAlteryx公式サイトよりお問い合わせください。