--- title: 自宅ミニPC上でLLM環境を作る tags: #naniwanog #インターネット #llm #ai #claude code #イベント #lt author: [Ken Sasaki](https://image.docswell.com/user/sasakipochi) site: [Docswell](https://www.docswell.com/) thumbnail: https://bcdn.docswell.com/page/GJ8DLQXXJD.jpg?width=480 description: NaniwaNOG 4 Meeting での LT 資料 自宅PC上を Claude Code に操作させて、LocalLLMを導入した話 published: October 08, 26 canonical: https://image.docswell.com/s/sasakipochi/KJWYMV-2026-10-08-134149 --- # Page. 1 ![Page Image](https://bcdn.docswell.com/page/GJ8DLQXXJD.jpg) 自宅ミニPC上で ローカルLLM環境を作ろう 2026-10-11 NaniwaNOG 4 Meeing (奈良) LT資料 佐々木 健 # Page. 2 ![Page Image](https://bcdn.docswell.com/page/LJLMLX8NER.jpg) 自己紹介(NaniwaNOGと私) ● NaniwaNOG 1 – ● NaniwaNOG 2 – ● よねやんに召喚されてNOCのトラブルシューティングのお手伝い NaniwaNOG 3.5 – ● よねやんに召喚されてNOCのトラブルシューティングのお手伝い NaniwaNOG 3 – ● → スルー、お仕事で近くにいたのでちょっとだけ挨拶に行った くまもんに当日になんか喋れと無茶振りされる NaniwaNOG 4 – NOCはクビになる – やむにやまれぬ事情でLTをすることに # Page. 3 ![Page Image](https://bcdn.docswell.com/page/47MYML6Q7W.jpg) (余談)NaniwaNOG 1のときのお仕事 ● お手伝いしてる会社の大阪オフィスの回線がおか しい、というので調査したところ、たしかに酷かっ たので、上流回線を変更した – 品質測定って大事だよね # Page. 4 ![Page Image](https://bcdn.docswell.com/page/P7R9VKPKE9.jpg) 最近のお仕事 ● Gisiumという推論サービスを作ろうぜという会社 のお手伝いはじめました – 今日の旅費等も出してもらってます ● なぜか家にGPUサーバがある人が多い – DGX Spark安いですよ – 一般のご家庭向けにはAMDがいいですよ # Page. 5 ![Page Image](https://bcdn.docswell.com/page/PJXQZL357X.jpg) # Page. 6 ![Page Image](https://bcdn.docswell.com/page/3JK98LYRJD.jpg) ハードウェア購入検討 ● 半導体高騰が憎い!!! ● 円安が憎い!!! ● ● NVIDIAのGPUサーバを買おうとすると100万円 〜？？？ AMDのGPUサーバでも30万円〜？？？ # Page. 7 ![Page Image](https://bcdn.docswell.com/page/LE3W239GE5.jpg) # Page. 8 ![Page Image](https://bcdn.docswell.com/page/8EDKZ4GN7G.jpg) あれ？このNotePC、GPUあるよね ● 最近のAMDのCPUには、GPUが内蔵されている ● ちょっと遊ぶならこれで良くない？ ● AMDのCPU付きの手頃なミニPCなら安く買える？ ● とはいえ半導体高騰、円安の影響で、数年前なら 5万円ぐらいで買えたものが、12万円 – シルバーウィークがわりと隙だったので購入 # Page. 9 ![Page Image](https://bcdn.docswell.com/page/V7PKDM3NJ8.jpg) 買ったもの # Page. 10 ![Page Image](https://bcdn.docswell.com/page/2JVV194YJQ.jpg) Step1 ● ChatGPTに、あれこれ聞いて、その言いなり – OSは何が良い？ ● Ubuntu 24.04 で – パーティションはどう切る？ ● 全部使ってLVMなしで – SecureBootとか切るべき？ ● Ubuntuなら切らなくてOK # Page. 11 ![Page Image](https://bcdn.docswell.com/page/5EGL2Z1WJL.jpg) Step2 ● ● Claude Codeを動かしているサーバから、sshでロ グインできるようにする sudoでrootになれるようにする # Page. 12 ![Page Image](https://bcdn.docswell.com/page/4JQYPLDQ7P.jpg) Step3〜 # Page. 13 ![Page Image](https://bcdn.docswell.com/page/K74WYDZYE1.jpg) Claude Code に頼んだこと ● GPUは認識されてる？ ● ローカルLLMを使いたいのでセットアップして # Page. 14 ![Page Image](https://bcdn.docswell.com/page/LJ1Y6ZRNEG.jpg) 聞かれて回答したこと ● 実行環境はOllamaにして ● ネットワークごしからも使えるようにして ● Open WebUIも入れて ● GPUのメモリ割り当ては今のまま # Page. 15 ![Page Image](https://bcdn.docswell.com/page/GJWGW9YM72.jpg) Claude Codeがやったこと ● GPUの確認 ● Ollamaの導入、GPUの有効化 ● Docker環境構築 ● Open WebUI セットアップ ● モデルの調査、取得、評価 ● メモリ割り当て調査 ● Open WebUIの規程モデル設定 # Page. 16 ![Page Image](https://bcdn.docswell.com/page/4EZL59XM73.jpg) # Page. 17 ![Page Image](https://bcdn.docswell.com/page/Y76W9K457V.jpg) 動かしてみた感想 ● こいつ動くぞ!! ● すごく遅いぞ!! ● そこそこ賢い？ ● ちょっと惜しい – NaniwaNOG ぐらいはググって調べてくれよ – 具体的な店まで絞りきれてない # Page. 18 ![Page Image](https://bcdn.docswell.com/page/G75MNPQG74.jpg) ChatGPTに聞いてみると # Page. 19 ![Page Image](https://bcdn.docswell.com/page/9J2956PDER.jpg) 商用モデル、商用サービスすごい ● わりと速い ● しっかりと調査してくれる – NaniwaNOGもばっちり認識 – お店も具体名を特定 ● 利用しやすいフォーマットで出力 – リンク付き – 見易いリスト化 – マップも表示 # Page. 20 ![Page Image](https://bcdn.docswell.com/page/DEY4K95MJM.jpg) ローカルLLMを使いたい？ ● データを外に出したくない ● インターネットに接続できない環境で使いたい ● 沢山使いたい – 課金額が怖い ● 勉強したい # Page. 21 ![Page Image](https://bcdn.docswell.com/page/VJNYRLN378.jpg) そういえばこんな話が、、、 NaniwaNOG 4 で ローカルLLM構築の ハンズオンやってよ # Page. 22 ![Page Image](https://bcdn.docswell.com/page/YE9PM4RPJ3.jpg) 手順書を作ったよ(Caudeが) ● 資料はどこかに上げとくつもり # Page. 23 ![Page Image](https://bcdn.docswell.com/page/GE8DLQWXED.jpg) # Page. 24 ![Page Image](https://bcdn.docswell.com/page/LELMLXNN7R.jpg) 他のネタ(没になったネタ) ● FreeBSD 9(2013年)の放置プレイ ● Claudeでセキュリティ監査、セキュリティ対応 ● ご家庭でマイニング ● 自宅サーバのススメ ● 興味があれば雑に聞いてください ● 次のTDNOGとかでもなにか喋る予定 # Page. 25 ![Page Image](https://bcdn.docswell.com/page/4JMYMLXQJW.jpg) おしまい 続きは適当な飲み会とかで