【水曜のDX道場】AIが資料を見落とすのはなぜ？ DifyとGeminiで体験するRAG

AIが資料を見落とすのはなぜ？ DifyとGeminiで体験するRAG 2026/7/12 @DXDojo Shinnosuke Oka / 51

AI技術の「仕組み」を学び直すシリーズ ただの座学ではなく、実際に「触れて」「試して」から「理解する」行程を重視します。 Step 3: Agentic Step 2: MCP 今回はコチラ Step 1: RAG 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 2 / 51

この発表のゴール Difyのナレッジ機能を使ってRAGを試してみよう • RAGの構築方法は？ これらに RAGに関連する技術を理解しよう • 全文検索？ベクトル化？ • チャンク？？？？ 回答 できるよう になる 本当に強いRAGを作るには？ • 画像を含む文書のRAGはどうするの？ 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 3 / 51

タイムテーブル 5 min Networking & Ice-break 10 min Introduction MCPって何？ 20 min Hands-on pt.1 MCPを使ってみよう 20 min Hands-on pt.2 MCPの仕組みを知ろう 5 min Wrap-up: MCP利用上の注意 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 4 / 51

自己紹介 Shinnosuke Oka (eXpresser) 独立系の受託開発会社に所属 Azureクラウドエンジニア …と言いつつWebならなんでもやる 趣味：鉄道撮影・架空鉄道 鉄道趣味＋自己啓発のため、 路線図を作るWebアプリを 開発・公開中 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 5 / 51

Introduction: RAGってなんだろう？ 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 6 / 51

RAG (Retrieval-Augmented Generation)とは？ 有給をとる時のルールは？ 社内データ (あなた専用の情報) の回答はできない 有給休暇の取得は、所属会社や組織 の規定によって異なります。一般的 には… 有給をとる時のルールは？ 社員名簿データベース 社内規約文書 あなたの勤続年数ですと、～日取得 できます。有給申請は社内ポータル サイトから申請ください。 2026/07/12 @ DX Dojo 検索ヒットした文書の 一部分 を 知識 (ナレッジ) としてAIに追加 (C) Shinnosuke Oka 7 / 51

Hands-on pt.1: Dify で RAG を構築してみよう 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 8 / 51

Dify で RAG を構築してみよう 全体の流れ ① Gemini API キーを取得する ② Dify に Gemini API キーを入れて、 Dify 内で Gemini が使えるようにする ③ PDFファイルをアップロードして、ナレッジを作成する ④ 作成したナレッジを使って回答するチャットボットを 作成する 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 9 / 51

Gemini APIキーの発行 Googleアカウントを ご用意ください • Google AI Studio にアクセスし、 画面上部にあるAPIキー作成を押下する 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 10 / 51

• https://aistudio.google.com/api-keys

Gemini APIキーの発行 • キー作成ダイアログが表示されるので、 プロジェクト作成の上で、分かりやすい名前を入力する ① ② 2026/07/12 @ DX Dojo ③ (C) Shinnosuke Oka 11 / 51

Gemini APIキーの発行 • APIキーが表示されるので、メモ帳などに控えておく （Difyの設定で用いる） 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 12 / 51

Dify に Gemini API キーを導入 Difyアカウントを ご用意ください • Dify クラウドにログインし、Geminiをインストールする ②「モデルプロバイダー」 を押下 ④ダイアログが表示されるので インストールを押下 ①「連携」を押下 ③Geminiにカーソルを合わせ、 「インストール」を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 13 / 51

• https://cloud.dify.ai/

Dify に Gemini API キーを導入 • Geminiが追加されるので、右側の「APIキーを追加」を押下 ①「APIキーを追加」を押下 ②さらに「APIキーを追加」 を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 14 / 51

Dify に Gemini API キーを導入 • API認証設定ダイアログにて、先ほど作成したAPIキーを入力 分かりやすい名前を入力 Gemini API キーを入力 最後に保存を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 15 / 51

Dify に Gemini API キーを導入 • 先ほど「AIクレジット使用中」となっていたのが、APIキーの 認証名になっていることを確認する ●有効になっていることを確認 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 16 / 51

ナレッジベースを作成 • 今回は間単に試せるように、以下のドキュメントを1件使用 下記ページより、レポート本文PDFをダウンロードする AI利用時のセキュリティ脅威・リスク調査 調査報告書 情報処理推進機構 2024年7月4日発行 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 17 / 51

• https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html

ナレッジベースを作成 • すぐに使えるナレッジベースを作成する ②「作成」を押下 ①「ナレッジ」を選択 2026/07/12 @ DX Dojo (C) Shinnosuke Oka ③「すぐに使えるナレッジ ベースを作成」を押下 18 / 51

ナレッジベースを作成 • ドキュメントをアップロード ①「テキストファイルから インポート」を選択 ②先ほどダウンロードした PDFをここに ドラッグ＆ドロップ ③「次へ」を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 19 / 51

ナレッジベースを作成 • ナレッジベースの処理設定 を行う 以下の設定概念は後で説明します • チャンク設定：汎用 • インデックス方法：高品質 • 埋め込みベクトル： gemini-embedding-001 • 検索設定：ベクトル検索 • 保存して処理を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 20 / 51

ナレッジベースを作成 • 埋め込みが完了するまで待つ（数十秒程度） 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 21 / 51

ナレッジベースを作成 • 実際に検索を実行してみる ④結果を確認する ②検索キーワードを入力 ①「検索テスト」を選択 ③テストを実行 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 22 / 51

RAGを構築し、AIに回答させる • 画面左上のホームボタン（ ）を押下し、スタジオを選択する • 「作成」→「最初から作成」を押下する 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 23 / 51

RAGを構築し、AIに回答させる ①「初心者向けの…」をクリックし、 隠れている項目を出現させる ②「チャットボット」 を選択 ③分かりやすい名前を入力 ④作成を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 24 / 51

RAGを構築し、AIに回答させる ①使用モデルを 「Gemini 3.1 Flash-Lite」に変更 ②プロンプトを以下の内容に変更 コンテキストの文書を検索し、その情報を元にユーザー へ回答してください。 情報源に回答できる情報がない場合は、決して推測せず、 素直に情報が不足している旨をユーザーに伝えてくださ い。 ③コンテキストの「追加」を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 25 / 51

RAGを構築し、AIに回答させる • ダイアログにて、先ほど作成したナレッジベースを選択し追加 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 26 / 51

RAGを構築し、AIに回答させる デバッグとプレビュー側で実際に 質問してみる 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 27 / 51

Explanation 1: ドキュメント検索エンジンの仕組み 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 28 / 51

チャンク？ベクトル？埋め込み？ これって結局 何だったの？ 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 29 / 51

ドキュメント検索エンジンの仕組み 生成AIの規則、体制整備状況 @2024独立行政法人情報処理推進機構 12 質問 生成AI利用時のセキュリティに関連した規 則・体制は整備されていますか 生成AIの利用規則・体制の整備状況 （本調査 Q9対象 AIを利用/許可している、また は予定があると回答した1,000人） 課題認識は60%を超えていたにも関わらず、規 則の策定、明文化、組織的な検討がされている のは20％未満で、詳細規則策定中を合わせても 40％前後しか整備が進んでいない。 個人任せの状態では課題の解決は難しく、事業 への影響か懸念される。 ・・・ 単純な文字列検索だと・・・？ • 1文字1文字を順番に確認する のは途方もない時間がかかる • 表現の揺れに対応できない ＝とても使えるモノじゃない × 1,000,000 over 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 30 / 51

ドキュメント検索エンジンの仕組み インデックス作成 ベクトル化 (埋め込み, Embedding) 文章を単語ごとに分割して、索引を作る 文章を「意味のマップ（座標）」に配置する 生成 … ○○.pdf p.12, ××.pdf p.30 ,,, AI … ○○.pdf p.12, ××.pdf p.45 ,,, の … ○○.pdf p.12, ××.pdf p.1 ,,, 規則 … ○○.pdf p.12, ××.pdf p.5 ,,, 生成AIの規則、体制整備状況… LLMマニュアル 埋め込みAIモデル (gemini-embedding-001等) カレーの作り方 特徴 特徴 単語の存在を1文字違わずチェックするため、 完全に一致するキーワードしか見つけられない 一度にAIへ送れる文字数の制限があるため、 文章をあらかじめ適切な長さにブツ切り (chunking) する必要がある 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 31 / 51

ナレッジ作成時にDifyは何をやった？ 指定文字数分を「チャンク」に分割 （文脈が壊れないよう、オーバーラップさせる） 目的 生成AI の登場により、業務での AI 利用機会が増えているが、一方 AI 利 用の脅威やリスクについては十分な検討がされておらず、今後悪用や誤用 によるサイバー攻撃やインシデントが懸念される。 PDFから文字を抽出 目的 生成AI の登場により、業務での AI 利用機会が増え ているが、一方 AI 利用の脅威やリスクについては十 分な検討がされておらず、今後悪用や誤用によるサ イバー攻撃やインシデントが懸念される。 本調査ではAI の業務利用の浸透具合やセキュリティ 上の脅威・リスクの認識について、企業・組織の実 務担当者に対してアンケートを実施した。 調査期間 ２０２４年３月１８日～２１日 調査方法 … …………………… 2026/07/12 @ DX Dojo 今後悪用や誤用によるサイバー攻撃やインシデントが懸念される。 本調 査ではAI の業務利用の浸透具合やセキュリティ上の脅威・リスクの認識 について、企業・組織の実務担当者に対してアンケートを実施した。 企業・組織の実務担当者に対してアンケートを実施した。 調査期間 ２０２４年３月１８日～２１日 調査方法 … …………………… gemini-embedding-001 で埋め込み 余談：なぜか Difyクラウド版 のナレッジ機能はインデックス作成が (C)上手くいかなかった…。ベクトル化のみ行っているみたい Shinnosuke Oka 32 / 51

Hands-on pt.2: 検索方法による挙動の違いを確認しよう ハンズオン期間限定：2026/7/19 まで 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 33 / 51

検索方法による挙動の違いを確認しよう 皆さんのPC 検索クエリ 岡が用意した Azure AI Search 検索結果 キーワード検索 ベクトル検索 それぞれの検索方法の結果を比較してみよう 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 34 / 51

検索用のフローをインポートする • OneDrive にアクセスし、「DX Dojo RAG Handson-2.yml」を ダウンロードする 発表中のみ提供していたハンズオン手順です。 現在は利用できませんので、p.41に移ってください。 • 「api-key.txt」を選択し、テキストの内容をメモ帳などにコピーする 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 35 / 51

• https://1drv.ms/f/c/e5af5f71fbfc131d/IgAkQf18javiTK6KDqhlD46oAaVF57fGzTEK90J-J2sOlek?e=nzx9FX

検索用のフローをインポートする • Difyの画面に戻り、左側のメニューにて、「スタジオ」を選択 • 「作成」→「DSLファイルをインポート」を押下 発表中のみ提供していたハンズオン手順です。 現在は利用できませんので、p.41に移ってください。 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 36 / 51

検索用のフローをインポートする • 先ほどダウンロードしたファイルをドラッグ＆ドロップする • 「作成」ボタンを押下する 発表中のみ提供していたハンズオン手順です。 現在は利用できませんので、p.41に移ってください。 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 37 / 51

検索用のフローをインポートする ②環境変数アイコンを押下 ①「オーケストレート」を選択 ③「ai_search_api_key」横の 編集アイコンを押下 発表中のみ提供していたハンズオン手順です。 現在は利用できませんので、p.41に移ってください。 ④先ほどコピーした api-key.txtの内容をペースト ⑤保存を押下 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 38 / 51

検索を実行してみる • 画面右上の「テスト実行」を押下する • 検索クエリに「アスマーク」と入力する • 検索タイプを「Keyword」にし、実行開始を押下する 発表中のみ提供していたハンズオン手順です。 現在は利用できませんので、p.41に移ってください。 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 39 / 51

検索結果を確認する • 上位3件の検索結果候補が 出力される 2026/07/12 @ DX Dojo 「アスマーク」を 含むスライドが第1位に ヒットしている (C) Shinnosuke Oka 40 / 51

検索結果と考察 No 検索キーワード 固有名詞や専門用語は埋め込みAIモデル 検索タイプ 正解 が学習していないケースが多く、 キーワード検索が強い スライド番号 検索ヒット順位 1 2 アスマーク アスマーク Keyword Vector 3 3 第1位 第2位 3 Reasons Why Keyword Artificial Intelligence Cannot Be Used 14 ヒットせず 4 Reasons Why Vector 14 Artificial ドキュメントにはどの英単語も入って Intelligence Cannot おらず、キーワード検索ができない 意味が似ているものをヒットさせる Be Used 第1位 ベクトル検索の方が強い 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 41 / 51

Keyword + Vector = Hybrid キーワード検索の結果 第1位: Chunk A 第2位: Chunk B ハイブリッド検索の結果 第3位: Chunk C 第1位: Chunk A 第4位: Chunk D ベクトル検索の結果 第1位: Chunk D それぞれの 検索結果の 順位を評価 第2位: Chunk D 第3位: Chunk B 第4位: Chunk C 第2位: Chunk A 第3位: Chunk C 第4位: Chunk B 2026/07/12 @ DX Dojo キーワード検索とベクトル検索の双方 の特長を捉えた総合的な検索 (C) Shinnosuke Oka 42 / 51

Semantic Reranker Keyword / Vector / Hybrid 検索した後の結果と 検索キーワードを再度組み合わせて、再順位付けする ハイブリッド検索結果 （上位3件） 第1位: Chunk A 第2位: Chunk D 第3位: Chunk B 検索キーワード セマンティック 再ランキングモデル 本当にユーザーの質問に 回答できる内容なのか？ 再ランキング結果 第1位: Chunk D 第2位: Chunk A 第3位: Chunk B 単語の意味や文字一致だけでなく、 読解レベルでランク付けする 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 43 / 51

各検索手法まとめ 検索方法 Keyword Vector Hybrid Hybrid + Semantic 検索精度 △ △ ○ ◎ コスト ◎ ○ (Embedding モデルの利用トークン課金) ○ (Embedding モデルの利用トークン課金) △ (Embedding モデルの利用トークン課金 Semantic Reranker の利用課金) 所感： • とりあえず Hybrid にしておけばOK • 精度と予算の評価次第で Semantic Reranker を導入 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 44 / 51

Explanation 2: RAGのさらなる精度向上の工夫 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 45 / 51

入力データは文字だけ→図表の情報が落ちる 指定文字数分を「チャンク」に分割 （文脈が壊れないよう、オーバーラップさせる） 目的 生成AI の登場により、業務での AI 利用機会が増えているが、一方 AI 利 用の脅威やリスクについては十分な検討がされておらず、今後悪用や誤用 ここの精度向上の話 によるサイバー攻撃やインシデントが懸念される。 PDFから文字を抽出 目的 生成AI の登場により、業務での AI 利用機会が増え ているが、一方 AI 利用の脅威やリスクについては十 分な検討がされておらず、今後悪用や誤用によるサ イバー攻撃やインシデントが懸念される。 本調査ではAI の業務利用の浸透具合やセキュリティ 上の脅威・リスクの認識について、企業・組織の実 務担当者に対してアンケートを実施した。 調査期間 ２０２４年３月１８日～２１日 調査方法 … …………………… 2026/07/12 @ DX Dojo 今後悪用や誤用によるサイバー攻撃やインシデントが懸念される。 本調 文字情報だけでなく、画像で検索できるよう 査ではAI にするの業務利用の浸透具合やセキュリティ上の脅威・リスクの認識 について、企業・組織の実務担当者に対してアンケートを実施した。 →スキャンしただけのドキュメントや、 手書きの書類に有効 企業・組織の実務担当者に対してアンケートを実施した。 調査期間 ２０２４年３月１８日～２１日 調査方法 … …………………… gemini-embedding-001 で埋め込み 余談：なぜか Difyクラウド版 のナレッジ機能はインデックス作成が (C)上手くいかなかった…。ベクトル化のみ行っているみたい Shinnosuke Oka 46 / 51

OCRサービスを使ったデータの構造化 Azure Document Intelligence (旧 Form Recognizer) ドキュメントを与え、図や表の認識、章立て、段落の認 識を行うサービス。手書き文字も認識可能。 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 47 / 51

マルチモーダル検索 Azure AI Vision gemini-embedding-2 テキストだけでなく、画像をベクトル化できる 埋め込みAIモデルが登場 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 48 / 51

まとめ Difyのナレッジ機能を使ってRAGを試してみよう • Difyでは、ナレッジという概念でドキュメントを登録する • ワークフローでナレッジを使うことでRAGが実現できる RAGに関連する技術を理解しよう • キーワード検索は文字列の一致を確認する • ベクトル検索は意味が近いかどうかを確認する 本当に強いRAGを作るには？ • OCRサービスを用いてドキュメントの構造を解析する • 画像のベクトル化に対応するモデルを活用する 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 49 / 51

最後に • 宣伝 WebでSVGの図を書きたいといったニーズがあればぜひお声掛けください！ 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 50 / 51

Thank You! 2026/07/12 @ DX Dojo (C) Shinnosuke Oka 51 / 51