JAWS-UG Nagoya Handson

JAWS-UG Nagoya Dify × Amazon Nova × ベクター検索 ハンズオン TiDBも⼊れてね! PingCAP株式会社

ハンズオンの資料はこちらです https://bit.ly/dify-tidb-vector

• https://bit.ly/dify-tidb-vector

関⼝匡稔 X: @bohnen PingCAP株式会社 Solutions Architect

TiDB Cloud Serverless⼊⾨

分散MySQL互換データベース Design Goals AZ AZ AZ LB SQL ● MySQL互換 ● 運用の容易さ TiDB TiDB TiDB TiKV TiKV TiKV ● 水平スケール ● 強い一貫性 KVS ● 高い可用性と信頼性

TiDB Cloud - フルマネージドDBaaS Serverless（共有型） Dedicated（占有型） TiDB Serverless はマルチテナント マネージドTiDBサービスです。 サーバ構成などを気にせず⼿軽に利 ⽤できます。 TiDB Dedicated はお客様専⽤のマ ネージドTiDBサービスです。 基幹システムなどに要求される⾼い ⾮機能要件を満たします。 ● 最低課⾦なしの完全従量課⾦ ● 透明性の⾼いノード単位課⾦ ● TiFlash(HTAP)も利⽤可能 ● ⾼い耐障害性、カスタマイズ性 ● ⾼速起動、ブランチ、Data Service ● 移⾏ツールやCDCなどもオンデマン Vector Searchといった先進機能 ドで利⽤可能

TiDB Serverless - Serverless DB on AWS https://aws.amazon.com/jp/blogs/storage/how-pingcap-transformed-tidb-int o-a-serverless-dbaas-using-amazon-s3-and-amazon-ebs/

• https://aws.amazon.com/jp/blogs/storage/how-pingcap-transformed-tidb-into-a-serverless-dbaas-using-amazon-s3-and-amazon-ebs/

LLMフルサポート! Chat2Query ⽣成AIによるクエリ Data Service ⽣成AIのための API⽣成 Vector Search RAG + RDBMS

ツールサポート 様々なツールでVector Storeとして利⽤可能 🦜🔗 LangChain LlamaIndex

AWS Privatelinkも利⽤可能！ AWSのマネージドサービス同様に利⽤できます（無料帯でも利⽤可能） Customer Environment PingCAP Managed Serverless Driver (HTTPS) Data Service (API) Virtual private cloud (VPC) Public Endpoint Private Link Virtual private cloud (VPC)

TiDB Cloud Serverlessの実例 https://ossinsight.io/ https://tidb.ai/

• https://ossinsight.io/
• https://tidb.ai/

Credits for OSS Heros! https://ossinsight.io/open-source-heroes/

• https://ossinsight.io/open-source-heroes/

Dify + TiDB Vector Search

1. Difyの.envの設定 TiDB Cloud Serverlessの 接続情報を設定するだけ！ 設定情報は “Connect” から。

2. ナレッジの設定 対象とするドキュメントによって変える のがポイント うまく切り分けられるかが検索精度に影 響します RerankのトップKはナレッジで設定する 値が上限値になるので注意 多少⼤きめに設定しておきましょう

3. ワークフローでセット Knowledge Retrievalノードを使う 質問⽂をクエリ変数にセットします ここで返ってきた結果が次のノード（多 くの場合はLLMノード）のコンテキスト として利⽤されます

4. LLMで利⽤ コンテキストとして設定 ただし、コンテキストとして設定するだ けでは不⼗分 SYSTEMなどのプロンプトで明⽰的に参 照する必要があるので注意してください

THANK YOU.