Azure上でのDifyを活用したAIアプリケーション構築

Azure 上での Dify を活用した AI アプリケーション構築 Microsoft MVP for Microsoft Azure / LINE API Expert 平林 拓将

自己紹介 ✓ name： 平林 拓将（ひらりん） ✓ work： テクニカルトレーナー＆開発 ✓ award/title: - Microsoft MVP for Azure（2019.11～） - LINE API Expert（2020.3～） ✓ social: - X：@himarin269 - GitHub：himanago - Blog：https://himanago.hatenablog.com/

• https://twitter.com/himarin269
• https://github.com/himanago/
• https://himanago.hatenablog.com/

本セッションのゴール ✓ Azure 上で Dify をデプロイする方法を理解する  Dify の概要と特長を把握する  Azure の各サービスを活用した複数のデプロイ方法を学ぶ ✓ Dify を活用し、Azure AI の各種モデルを組み合わせた 生成 AI アプリケーションの構築方法を学ぶ  Azure OpenAI Service などのモデルを簡単に統合できることを知る  Dify の RAG やプラグイン機能により簡単にチャットボットや AI サービスが構築できることを知る

Dify とは

Dify とは  LangGenius 社により開発されている オープンソースの LLM アプリ開発プラットフォーム  簡単なチャットボットから複雑な AI アプリ・ワークフローまで ノーコード・ローコードで開発できる  OpenAI やその他のさまざまな LLM と連携可能

Dify の利用方法 クラウド（SaaS）版を使う 自分でホストして使う  手軽に始められる  Dify はオープンソース  本格的に使うには料金がかかる  Docker Compose で起動する  データがクラウドに置かれる点に注意  ローカル実行のほか、Azure へのホストも 可能  データの置き場所が自分で管理する環境で完結  VNET内に閉じることも可能

Dify でできること – アプリの作成 目的に応じた 5 種類から 選択してアプリを作成

Dify でできること – アプリの作成 ノーコード・ローコードで AI アプリのフローが構築できる （テンプレートも充実）

Dify でできること – RAG PDF 等をアップロードすれば アプリから参照できる RAG を 簡単に作れる

Dify でできること – プラグインの利用 さまざまなプラグインが マーケットプレースから インストールできる

Dify on Azure

Azure へのデプロイ方法の例 Azure Virtual Machines Azure Kubernetes Service Azure Container Apps  単一の VM 内ですべてのコン  複数のコンテナーを  複数コンテナーをマネージドサー 参考： コマンドを一つも打たずに Azure 上に Dify で遊べる環境をセットアップしてみた #AzureOpenAIService - Qiita 参考： Difyで作ったLLM ApplicationをAzure Kubernetes Serviceにデプロイする方法 参考： GitHub - nikawang/dify-azure-terraform ポーネントを動かす、 最もシンプルな方法  VM 作成時にスクリプトを入力 するだけで環境が作れる Kubernetes にデプロイ  Dify は複数コンテナーの連携が 前提なので親和性が高い ビスでホスト  DB 等にはコンテナーを使わず 専用サービスを使った構成の Terraform コードが公開されて いる（少し古い）

• https://qiita.com/tokawa-ms/items/160c40010151bfbb2549
• https://zenn.dev/microsoft/articles/dify_on_azure
• https://github.com/nikawang/dify-azure-terraform

Bicep を用いたデプロイスクリプトを作成しました  デプロイスクリプトを実行するだけで Bicep による Azure への必要リソースへの デプロイ＋初期化処理を実行し Dify を Container Apps でホストできる  Dify の最新 1.x 系に対応（プラグイン機能用のコンテナーを追加） GitHub - himanago/dify-azure-bicep

• https://github.com/himanago/dify-azure-bicep

Demo： Bicep デプロイスクリプトの実行

構成図 Azure Cache for Redis Azure OpenAI Service を追加する！ nginx ssrfproxy worker File Share web Azure OpenAI Blob Storage Account plugin sandbox api Azure Database for PostgreSQL Flexible Server Container Apps Environment Subnet Subnet VNET

Demo： Azure OpenAI との接続と チャットボットの開発

本セッションのゴール ✓ Azure 上で Dify をデプロイする方法を理解する  Dify の概要と特長を把握する  Azure の各サービスを活用した複数のデプロイ方法を学ぶ ✓ Dify を活用し、Azure AI の各種モデルを組み合わせた 生成 AI アプリケーションの構築方法を学ぶ  Azure OpenAI Service などのモデルを簡単に統合できることを知る  Dify の RAG やプラグイン機能により簡単にチャットボットや AI サービスが構築できることを知る