AI ShellとAzure AI Foundry Local _ AI Shell and Azure AI Foundry Local

AI ShellとAzure AI Foundry Local wSCUGJ Microsoft MVP Cloud and Datacenter Management 指崎 則夫, Norio Sashizaki 改定 2025年07月12日 2025年07月05日

はじめに  巻末の参考情報を手始めに本資料をまとめていきます。  また適宜、各ページで参考情報としてURLを記載しますので、予めご承知おきください。 2025/07/05 2

ご注意  本セッションの内容は、所属社の見解ではありません。  本セッションの内容で、正式リリース前の情報を扱っています。  本セッションの内容は、発表時点の情報に基づくこと、ご了承ください。 2025/07/05 3

自己紹介  指崎則夫（さしざきのりお） http://sashiz.seesaa.net → http://sashiz.wordpress.com → http:// sshzk.blogspot.com http://www.slideshare.net/noriosashizaki/ https://www.docswell.com/user/sshzk https://speakerdeck.com/sashizaki https://www.facebook.com/norio.sashizaki https://mstdn.jp/web/@sshzknr @sshzk https://www.linkedin.com/in/norio-sashizaki-a4208a89/ SCUGJ運営スタッフ  Microsoft MVP Cloud and Datacenter Management 2014/01～2023/06  Windows Server 2016、Windows Server 2019、 Windows Server 2022、 System Center 2019、S2D/Azure Stack HCI、 Azure Stack Hub、Windows Admin Centerなど  写真撮影  ガンプラ… 2025/07/05 4

• http://www.slideshare.net/noriosashizaki/
• https://www.docswell.com/user/sshzk
• https://speakerdeck.com/sashizaki
• https://www.facebook.com/norio.sashizaki
• https://mstdn.jp/web/@sshzknr
• https://www.linkedin.com/in/norio-sashizaki-a4208a89/

アジェンダ   AI Shell  概要  導入  使用前の準備  Copilot in Azureを指定した使用方法  Azure OpenAIを指定した使用方法 Azure AI Foundry Local  概要  Windows 11 ARMでの導入  Apple Siliconを搭載するMacでの導入  Windows 11 ARMでの使用方法  Apple Siliconを搭載するMacでの使用方法  まとめ  参考資料 2025/07/05 5

AI Shell 2025/07/05 6

AI Shellの概要  November 19th, 2024 Announcing the Public Preview of AI Shell https://devblogs.microsoft.com/powershell/announcing-the-public-preview-of-ai-shell/  AIShell  https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/overview?view=ps-modules  https://learn.microsoft.com/en-us/powershell/module/aishell/?view=ps-modules  2025/06/28時点では、v1.0.0-preview.5です。 https://github.com/PowerShell/AIShell/releases  下記のどちらかと繋いで使用できます。    Azure OpenAI Agent  ただし、Azure OpenAIが別途必要  Azure OpenAIでは、プライベートエンドポイント経由でのやり取りも可能です。 Copilot in Azureコマンドラインツール WindowsやMacOSにインストールされているPowerShellで使用できますし、AI Shellスタンドアロンとしても使用できます。  スタンドアロンでの使用は、環境変数PATHへのパス設定が必要です。  ユーザープロファイル配下へインストール可能です。  使用前に、az loginでAzureに接続しておく必要があります。すなわちAzure CLIの事前インストールが必要です。 2025/07/05 7

• https://devblogs.microsoft.com/powershell/announcing-the-public-preview-of-ai-shell/
• https://learn.microsoft.com/en-us/powershell/module/aishell/?view=ps-modules
• https://github.com/PowerShell/AIShell/releases

AI Shellの導入(1/2)  前ページにも記載しましたが、Azure CLIの事前インストールが必要です。  下記に基づいてPowerShellもしくはスタンドアロンでインストールします。  AI シェルをインストールする https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/install-aishell?view=psmodules#install-ai-shell-1  なお当方の環境では、再度PowerShellからのインストールやアンインストールがうまくいかないことがありました。  この場合は、スタンドアロンでインストールします。  Zipファイルの展開先は例えば下記の通りです。こちらを環境変数PATHに加えます（PowerShellでの例）。 $env:userprofile¥AppData¥Local¥Programs¥AIShell  環境変数PATHに加えた場合は、サインインし直しなど実施ください。 2025/07/05 8

• https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/install-aishell?view=ps-modules#install-ai-shell-1

AI Shellの導入(2/2)  Azure OpenAIを使う場合は、事前にモデルをデプロイしておきます。 2025/07/05 9

AI Shell使用前の準備  az loginにより、Azureへ接続します。  なお2025/06/28時点でうまくaz loginログインできませんでした。以前問題なくaz loginログインできた画面 キャプチャを使って、以降説明いたしますこと、お許しください。v1.0.0-preview.4もしくは3の実行例となります。  複数テナントをお持ちの場合は、--tenantでテナントIDを指定してAzureへ接続します。下記の例は、-tenantでテナントIDを指定してAzureへ接続しました。 2025/07/05 10

Copilot in Azureを指定した使用方法(1/5)  PowerShellのウインドウから、Start-AIShellか、aish.exeにてAI Shellを起動します。下記は、 Start-AIShellでの起動例です。 2025/07/05 11

Copilot in Azureを指定した使用方法(2/5)  Copilot in Azure を選びます。 2025/07/05 12

Copilot in Azureを指定した使用方法(3/5)  サンプルのプロンプトを入れたところ、問題なく動きました。 2025/07/05 13

Copilot in Azureを指定した使用方法(4/5)  /exitにて終了できます。 2025/07/05 14

Copilot in Azureを指定した使用方法(5/5)  日本語のプロンプトにも応答がありました。 2025/07/05 15

Azure OpenAIのパブリックエンドポイントを指定した使用方法(1/7)  az login --tenantでテナントIDを指定してAzureへ接続後の状態から進めます。  Start-AIShellにてAI Shellを起動後、「openai-gpt」を選んで続行します。 2025/07/05 16

Azure OpenAIのパブリックエンドポイントを指定した使用方法(2/7)  そうすると「/agent config」で構成を編集して「/refresh」せよとあるので、そちらを対応します。 2025/07/05 17

Azure OpenAIのパブリックエンドポイントを指定した使用方法(3/7)  エディターの選択画面が出ました。メモ帳を選んで「Just once」をクリックし続行します。 2025/07/05 18

Azure OpenAIのパブリックエンドポイントを指定した使用方法(4/7)  構成ファイルが開きました。 構成ファイルの内容は、/*と*/で複数行コメントアウトになっていますご注意ください。 2025/07/05 19

Azure OpenAIのパブリックエンドポイントを指定した使用方法(5/7)  /*と*/での複数行コメントアウトを外して設定を書き換えました。 gpt-4oモデルを指定しました。 なおAzure OpenAIのモデルが新しすぎるために動かないこともあり、検証ではgpt-4oを選択しました。 2025/07/05 20

Azure OpenAIのパブリックエンドポイントを指定した使用方法(6/7)  プロンプトを入力したところ、API Keyが違うといわれてエラーになりました。モデルのキーを与えたりしました が、OpenAIのキーが必要でした。 2025/07/05 21

Azure OpenAIのパブリックエンドポイントを指定した使用方法(7/7)  OpenAI自体のキーを生成し、「/agent config」でOpenAI自体のキーを構成に記載して 「/refresh」を実施しました。クォータに引っ掛かりましたが、OpenAI自体のキーを構成に記載するので 良いと確認できました。 2025/07/05 22

Azure OpenAIのプライベートエンドポイントを指定した使用方法(1/15)  ここからaish.exe、すなわちスタンドアロンでの確認となります。  az login --tenantにてAzureにログイン後、aish.exeにてAI Shellを起動して一旦Copilot in Azureを選択します。 2025/07/05 23

Azure OpenAIのプライベートエンドポイントを指定した使用方法(2/15)  プロンプトが表示されたら、/agent config openai-gptを入力後、エンターキーを押します。構成ファイ ルを開くのにどのアプリケーションを使用するか尋ねられるので、notepad（メモ帳）を選択します。 2025/07/05 24

Azure OpenAIのプライベートエンドポイントを指定した使用方法(3/15)  <>の部分を順々に入力していきます。Keyには、この画像ではOpenAIのシークレットキーを設定しまし たが、実際にはAzure OpenAIのエンドポイントに対するキーを設定します。  入力後の状態は、下記の赤枠内です。 参考）OpenAI 実装の詳細を使用してエージェントを構成 https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/how-to/agent-openai?view=ps-modules#configuration 2025/07/05 25

• https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/how-to/agent-openai?view=ps-modules#configuration

Azure OpenAIのプライベートエンドポイントを指定した使用方法(4/15)  useでうまくエージェントが切り替わらなかったため、/exitで一度終了しました。 2025/07/05 26

Azure OpenAIのプライベートエンドポイントを指定した使用方法(5/15)  再度AI Shellを起動し、今度はopenai-gptを指定して、プロンプトを投げてみましたが失敗しました。 2025/07/05 27

Azure OpenAIのプライベートエンドポイントを指定した使用方法(6/15)  うまく動かなかったため、Azure OpenAIのエンドポイントに対するキーを設定しました。 2025/07/05 28

Azure OpenAIのプライベートエンドポイントを指定した使用方法(7/15)  /refreshに加えて、AI Shellを念のため再起動してから、Azure OpenAIを選択しました。 2025/07/05 29

Azure OpenAIのプライベートエンドポイントを指定した使用方法(8/15)  プロンプトを投げてみました。今度は、ネットワークの設定が良く無くてエラーでした。 2025/07/05 30

Azure OpenAIのプライベートエンドポイントを指定した使用方法(9/15)  あれこれ試しましたが、結局Copilot in Azureにエラーメッセージごとコピペして聞いてみましたw 2025/07/05 31

Azure OpenAIのプライベートエンドポイントを指定した使用方法(10/15)  正しいリソースだったので、「はい」をクリックして続行します。 2025/07/05 32

Azure OpenAIのプライベートエンドポイントを指定した使用方法(11/15)  回答が出たので、1番から試します。既存にあるVNetが少ないので「既存の仮想ネットワークを追加」をク リックします。 2025/07/05 33

Azure OpenAIのプライベートエンドポイントを指定した使用方法(12/15)  既存にあるVNetを全て選択して、「追加」をクリックしました。 参考） • OpenAI エージェント https://learn.microsoft.com/jajp/powershell/utilitymodules/aishell/how-to/agentopenai?view=ps-modules#configuration • Azure AI サービスの仮想ネットワーク を構成する https://learn.microsoft.com/jajp/azure/ai-services/cognitiveservices-virtualnetworks?context=%2Fazure%2Faiservices%2Fopenai%2Fcontext%2Fconte xt&tabs=portal#configure-virtualnetwork-rules 2025/07/05 34

• https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/how-to/agent-openai?view=ps-modules#configuration
• https://learn.microsoft.com/ja-jp/azure/ai-services/cognitive-services-virtual-networks?context=/azure/ai-services/openai/context/context&amp;tabs=portal#configure-virtual-network-rules

Azure OpenAIのプライベートエンドポイントを指定した使用方法(13/15)  改めてaz login --tenantにてAzureにログイン後、aish.exeにてAI Shellを起動してから、プロンプト を入力したところ成功しました。 2025/07/05 35

Azure OpenAIのプライベートエンドポイントを指定した使用方法(14/15)  Azure VPNなどを経由する場合は、Azure OpenAIのネットワーク設定でファイアウォールに設定追加 が必要です。 2025/07/05 36

Azure OpenAIのプライベートエンドポイントを指定した使用方法(15/15)  日本語のプロンプトにも応答がありました。 2025/07/05 37

Azure AI Foundry Local 2025/07/05 38

Azure AI Foundry Localの概要  Microsoft Build 2025にて、発表ありました。  WindowsおよびmacOSのローカル環境で、エッジ環境に最適化されたAIモデルを実行できます。  2025/06/28時点では、0.4.91です。 https://github.com/microsoft/Foundry-Local/releases  関連するドキュメントは、下記の通りです。  May 19th, 2025 Unlock Instant On-Device AI with Foundry Local https://devblogs.microsoft.com/foundry/unlock-instant-on-device-ai-with-foundry-local/  Foundry Local とは https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/what-is-foundry-local  実行に際して、NPUやGPUがあるとより良いですが、CPUのみでも動作します。 https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/getstarted#prerequisites  ローカル環境のみで実行するため、Azureへの接続は不要です。 2025/07/05 39

• https://github.com/microsoft/Foundry-Local/releases
• https://devblogs.microsoft.com/foundry/unlock-instant-on-device-ai-with-foundry-local/
• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/what-is-foundry-local
• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#prerequisites

Windows 11 ARMでの導入  Windows 11 ARMを使用して、インストールします。  クイックスタートによるとWingetによるコマンド一行で終わります。 https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/getstarted#quickstart 2025/07/05 40

• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#quickstart

Apple Siliconを搭載するMacでの導入  Apple Siliconを搭載するMacを使用して、インストールします。  クイックスタートによるとbrew (HomeBrew)によるコマンド2行で終わります。 https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/getstarted#quickstart 2025/07/05 41

• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#quickstart

Windows 11 ARMでの使用方法(1/4)  foundry model listでモデルを照会してみます。 2025/07/05 42

Windows 11 ARMでの使用方法(2/4)  クイックスタートの例に倣ってプロンプトを与えるべくモデルを実行します。初回なのでモデルをダウンロードし たのでしばらく待ったのちに、クイックスタートの例に倣ってプロンプトを与えます。 2025/07/05 43

Windows 11 ARMでの使用方法(3/4)  日本語で同じ意図のプロンプトを与えてみたところ、一部英語が残ったり、一部正しく翻訳できていません が、日本語で回答してくれました。ただしこのモデルおよび、この日本語プロンプトに関しては回答が止まり ませんでした。 2025/07/05 44

Windows 11 ARMでの使用方法(4/4)  Windows 11 ARMは、Copilot+PCでは無いため、NPUを使うモデルはモデルのロードそのもので失敗 しました。 2025/07/05 45

Apple Siliconを搭載するMacでの使用方法(1/6)  foundry model listでモデルを照会してみます。  Macでは、NPUではなくGPU表記ですね。WindowsとMacではモデルそのものも違うのでしょうかね。 2025/07/05 46

Apple Siliconを搭載するMacでの使用方法(2/6)  GPUを使うdeepseekモデルを実行しますが、初回ゆえモデルのダウンロードから始まります。  モデルのダウンロードが完了し、プロンプトが入力可能になりました。 2025/07/05 47

Apple Siliconを搭載するMacでの使用方法(3/6)  プロンプトを与えてみたところ問題無く回答が返りました。 2025/07/05 48

Apple Siliconを搭載するMacでの使用方法(4/6)  日本語でプロンプトを与えてみたところ、ところどころ日本語になっていませんが、回答は出てきました。 2025/07/05 49

Apple Siliconを搭載するMacでの使用方法(5/6)  続いて、Phi 3.5 miniに英語のプロンプトを与えてみます。 2025/07/05 50

Apple Siliconを搭載するMacでの使用方法(6/6)  日本語でプロンプトを与えてみたところ、破綻なく日本語が出力されました。この辺りで、どのモデルを選ぶ のかというポイントになりますね。 2025/07/05 51

まとめ  いずれもプレビュー版で、今後の展開が楽しみです。正式版になったら改めて確認が必要とも感じました。   AI Shell  コマンドラインから、Copilot in AzureやAzure OpenAIが使えます。  日本語のプロンプトにも応答がありました。  Azure OpenAIは、プライベートエンドポイントの方が使いやすいかも知れませんね。 Azure AI Foundry Local    Copilot+PCでは無いWindows 11 ARM  英語の回答については、モデルによる違いはあるもののレスポンスは良好です。  モデルによっては、日本語の回答が止まらない場合もあります。  NPUを使うモデルの場合は、モデルのロードそのものに失敗します。 Apple Siliconを搭載するMac  英語の回答については、モデルによる違いはあるもののレスポンスは良好です。  モデルによっては、日本語の回答に英語が混じる場合もありました。 仮想マシンのプラットフォーム別では、スムーズに動く場合とそうで無い場合があり、レスポンスに違いがありました。 2025/07/05 52

参考資料(1/3)  AI Shell  November 19th, 2024 Announcing the Public Preview of AI Shell https://devblogs.microsoft.com/powershell/announcing-the-public-preview-of-ai-shell/  AIShell   https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/overview?view=ps-modules  https://learn.microsoft.com/en-us/powershell/module/aishell/?view=ps-modules  https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/how-to/agent-openai?view=psmodules#configuration v1.0.0-preview.5 Release of AIShell https://github.com/PowerShell/AIShell/releases  OpenAI エージェント https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/how-to/agentopenai?view=ps-modules#configuration  Azure AI サービスの仮想ネットワークを構成する https://learn.microsoft.com/ja-jp/azure/ai-services/cognitive-services-virtualnetworks?context=%2Fazure%2Faiservices%2Fopenai%2Fcontext%2Fcontext&tabs=portal#configure-virtual-networkrules 2025/07/05 53

• https://devblogs.microsoft.com/powershell/announcing-the-public-preview-of-ai-shell/
• https://learn.microsoft.com/en-us/powershell/module/aishell/?view=ps-modules
• https://learn.microsoft.com/ja-jp/powershell/utility-modules/aishell/how-to/agent-openai?view=ps-modules#configuration
• https://github.com/PowerShell/AIShell/releases
• https://learn.microsoft.com/ja-jp/azure/ai-services/cognitive-services-virtual-networks?context=/azure/ai-services/openai/context/context&amp;tabs=portal#configure-virtual-network-rules

参考資料(2/3)  AI Shell  さっしーの試してみるか3  https://sshzk.blogspot.com/2025/04/public-preview-of-ai-shell.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-2.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-3.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-4.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-5.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-6.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-7.html  https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-8.html 2025/07/05 54

• https://sshzk.blogspot.com/2025/04/public-preview-of-ai-shell.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-2.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-3.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-4.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-5.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-6.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-7.html
• https://sshzk.blogspot.com/2025/05/public-preview-of-ai-shell-8.html

参考資料(3/3)  Azure AI Foundry Local  May 19th, 2025 Unlock Instant On-Device AI with Foundry Local https://devblogs.microsoft.com/foundry/unlock-instant-on-device-ai-with-foundry-local/  Foundry Local とは https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/what-is-foundry-local  前提条件 https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#prerequisites  クイックスタート https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#quickstart  Foundry Local Release https://github.com/microsoft/Foundry-Local/releases  さっしーの試してみるか3  https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-1-windows-11.html  https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-2-macos.html  https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-3-windows-11-on.html  https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-4-windows-11-on.html 2025/07/05 55

• https://devblogs.microsoft.com/foundry/unlock-instant-on-device-ai-with-foundry-local/
• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/what-is-foundry-local
• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#prerequisites
• https://learn.microsoft.com/ja-jp/azure/ai-foundry/foundry-local/get-started#quickstart
• https://github.com/microsoft/Foundry-Local/releases
• https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-1-windows-11.html
• https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-2-macos.html
• https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-3-windows-11-on.html
• https://sshzk.blogspot.com/2025/06/azure-ai-foundry-local-4-windows-11-on.html