第15回、第18回で解説した通り、HeatWave GenAIを使用するとSQLだけでLLMを活用できます。更にHeatWave GenAIでは、オブジェクトストレージ上のドキュメントをSQLだけでエンベディングして（データの意味を考慮してベクトル化して）ベクトルストアに格納し、SQLだけでRAG（Retrieval Augmented Generation）を実現することもできます。今回はこの手法について解説します。
HeatWave GenAIでRAG（Retrieval Augmented Generation）を実現できる利点
前回までの記事はこちら
LLMを活用する時に回答の信頼性を向上するための手法の一つとしてRAG（Retrieval Augmented Generation、検索拡張生成）があります。RAGではLLMに問い合わせて回答を得る時に外部のデータベースを参照し、質問と関連する情報をLLMに入力することで情報を補完することができます。そうすることで、LLMが持っていない情報についても回答が得られたり、ハルシネーション[※1]を軽減できたりします。
RAGを実現するための外部データベースとしては、ベクトルストアが使われることが一般的です。そしてLLMとベクトルストアを組み合わせてRAGを実現するために、LangChainなどのオーケストレーション・フレームワークが使われることも多いです。つまり、RAGを実現するためにはLLMを活用するスキルに加えて、ベクトルストアやPython[※2]に関するスキルなども求められるのが一般的です。
しかし、HeatWave GenAIを使うとRAGもSQLだけで実現できます。そのため、特別なスキルを必要とせず、データベースだけで手軽にRAGも使ってLLMを活用できます。
[※1] LLMが事実とは異なる内容や無関係な文脈の内容を出力する問題
[※2] LangChainについてはPythonベースだけでなくJavaScriptベースのライブラリも提供されています。とはいえ、本稿執筆時点でLLMを活用するための言語のデファクトスタンダードはPythonではないかと筆者は考えています。
この記事は参考になりましたか？
- MySQLとHeatWaveが切り開くオープンソース・データベースの新基準連載記事一覧
-
- HeatWave GenAIを使ってSQLだけでRAGを実現し、LLMを活用する方法
- HeatWave GenAIを使ってSQLだけでLLMを活用する方法（日本語対応版）
- MySQLをベクトルストアとして活用：セマンティック検索の可能性
- この記事の著者
-
山﨑 由章（ヤマサキ ヨシアキ）
日本オラクル株式会社 MySQL Global Business Unit MySQL Master Principal Solution Engineer & MySQL Cloud Evangelist MySQLとHeatWaveの普及を主なミッションとし、お客様環境への導入支援や製品...
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
