第15回、第18回で解説した通り、HeatWave GenAIを使用するとSQLだけでLLMを活用できます。更にHeatWave GenAIでは、SQLだけでLLMとコンテキストを維持した会話ができるチャット機能も提供されています。今回はこの手法について解説します。
HeatWave Chatとは？
HeatWave GenAIにはHeatWave Chatという機能があります。この機能を使うとSQLだけでLLMとコンテキストを維持した会話ができ、チャットボットのように利用できます。さらに、第19回で解説したRAGを組み合わせることもできます。
本稿執筆時点ではHeatWaveのIn-Database LLM（HeatWave単体で動かせるLLM）では日本語に公式に対応したLLMが提供されていませんが、Oracle Cloud Infrastructure（OCI） Generative AI Serviceと連携することで、コヒアが提供している日本語に公式に対応したLLMも利用できます。[※1]
HeatWave Chatの使い方
環境準備
環境は第15回の「HeatWave GenAI を使用するための準備」でも解説したように、HeatWaveノードのシェイプにHeatWave.512GBを選択し、HeatWave MySQL 9.0.0以降の最新バージョンの環境を準備してください。また、オブジェクトストレージ上のデータをベクトルストアへロードするためにHeatWave Lakehouse機能を有効化します。そして、MySQL Shell等でHeatWave MySQLに接続し、SQLを実行できる環境を用意します。（詳細な前提条件、HeatWave GenAI関連のルーチンを実行するための権限等の情報はこちらのドキュメントを参照してください）
コヒアが提供しているLLMを使って日本語でLLMと会話したい場合は、第18回の記事を参考にしてOCI Generative AI Serviceとの連携も実施してください。
なお、この記事で実行しているコマンドは大阪リージョンにHeatWave MySQL 9.3.1-u1-cloudの環境を構築し、OCI Generative AI Serviceと連携した状態で実行しています。（大阪リージョンを使用しているのは、第18回で補足した通り本稿執筆時点でコヒアが提供しているLLMが東京リージョンではまだ使用できないためです）
この記事は参考になりましたか？
- MySQLとHeatWaveが切り開くオープンソース・データベースの新基準連載記事一覧
-
- HeatWave Chatを使ってSQLだけでLLMをチャットボットのように活用する方法
- HeatWave GenAIを使ってSQLだけでRAGを実現し、LLMを活用する方法
- HeatWave GenAIを使ってSQLだけでLLMを活用する方法（日本語対応版）
- この記事の著者
-
山﨑 由章（ヤマサキ ヨシアキ）
日本オラクル株式会社 MySQL Global Business Unit MySQL Master Principal Solution Engineer & MySQL Cloud Evangelist MySQLとHeatWaveの普及を主なミッションとし、お客様環境への導入支援や製品...
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
