Serverless Meetup Fukuoka

Serverless Meetup Fukuoka Dify × Amazon Nova × Postman × LINE ベクター検索 ハンズオン TiDBも⼊れてね! PingCAP株式会社

ハンズオンの資料はこちらです https://bit.ly/dify-tidb-vector

• https://bit.ly/dify-tidb-vector

TiDB Cloud Serverless⼊⾨

分散MySQL互換データベース Design Goals AZ AZ AZ LB SQL ● MySQL互換 ● 運用の容易さ TiDB TiDB TiDB TiKV TiKV TiKV ● 水平スケール ● 強い一貫性 KVS ● 高い可用性と信頼性

TiDB Cloud - フルマネージドDBaaS Serverless（共有型） Dedicated（占有型） TiDB Serverless はマルチテナント マネージドTiDBサービスです。 サーバ構成などを気にせず⼿軽に利 ⽤できます。 TiDB Dedicated はお客様専⽤のマ ネージドTiDBサービスです。 基幹システムなどに要求される⾼い ⾮機能要件を満たします。 ● 最低課⾦なしの完全従量課⾦ ● 透明性の⾼いノード単位課⾦ ● TiFlash(HTAP)も利⽤可能 ● ⾼い耐障害性、カスタマイズ性 ● ⾼速起動、ブランチ、Data Service ● 移⾏ツールやCDCなどもオンデマン Vector Searchといった先進機能 ドで利⽤可能

宣伝 TiDB Cloud は最もAI対応しているデータベース！！ TiDB⾃⾝で実装 TiDB + LLM ‧ベクトル検索 ‧Text to SQL ‧MCP Server ‧Graph RAG ‧OSS Insight ‧TiDB.ai ‧TiDB Labs OSS + LLM Deepwiki

• https://github.com/c4pt0r/mcp-server-tidb
• https://github.com/pingcap/autoflow
• https://ossinsight.io/
• https://tidb.ai/
• https://labs.tidb.io/ja
• https://deepwiki.com/pingcap/tidb

TiDB Serverless - Serverless DB on AWS https://aws.amazon.com/jp/blogs/storage/how-pingcap-transformed-tidb-int o-a-serverless-dbaas-using-amazon-s3-and-amazon-ebs/

• https://aws.amazon.com/jp/blogs/storage/how-pingcap-transformed-tidb-into-a-serverless-dbaas-using-amazon-s3-and-amazon-ebs/

LLMフルサポート! Chat2Query ⽣成AIによるクエリ Data Service ⽣成AIのための API⽣成 Vector Search RAG + RDBMS

ツールサポート 様々なツールでVector Storeとして利⽤可能 🦜🔗 LangChain LlamaIndex

AWS Privatelinkも利⽤可能！ AWSのマネージドサービス同様に利⽤できます（無料帯でも利⽤可能） Customer Environment PingCAP Managed Serverless Driver (HTTPS) Data Service (API) Virtual private cloud (VPC) Public Endpoint Private Link Virtual private cloud (VPC)

iDB Cloud erverlessの実例 https://ossinsight.io/ https://tidb.ai/

• https://ossinsight.io/
• https://tidb.ai/

Credits for OSS Heros! https://ossinsight.io/open-source-heroes/

• https://ossinsight.io/open-source-heroes/

Dify + TiDB Vector Search

1. Difyの.envの設定 TiDB Cloud Serverlessの 接続情報を設定するだけ！ 設定情報は “Connect” から。

2. ナレッジの設定 対象とするドキュメントによって変える のがポイント うまく切り分けられるかが検索精度に影 響します RerankのトップKはナレッジで設定する 値が上限値になるので注意 多少⼤きめに設定しておきましょう

ナレッジでやっていること

3. ワークフローでセット Knowledge Retrievalノードを使う 質問⽂をクエリ変数にセットします ここで返ってきた結果が次のノード（多 くの場合はLLMノード）のコンテキスト として利⽤されます

4. LLMで利⽤ コンテキストとして設定 ただし、コンテキストとして設定するだ けでは不⼗分 SYSTEMなどのプロンプトで明⽰的に コンテキストを参照する必要があるので 注意してください

THANK YOU.