579 Views
March 29, 25
スライド概要
株式会社 Fusic で機械学習エンジニアをしています。自然言語処理に興味があります。
CONFIDENTIAL LM Studio + VSCode でローカル LLM に コードを書かせてみる AGI福岡 第5回 2025.03.28 瓦祐希 @kawara_y ©Fusic Co., Ltd. 0
はじめに 自己紹介 株式会社 Fusic 事業本部 先進技術部門 機械学習チーム 瓦 祐希 Yuki Kawara • 博士(情報科学) • 2024 Japan AWS Jr. Champions • 甲賀忍者検定初級 • ビール検定三級 @kawara_y ©Fusic Co., Ltd. 1
会社概要 会社概要 会社名 株式会社 Fusic (フュージック) 役 員 代表取締役社長 取締役副社長 設立年月日 2003年10月10日 上場市場 事業内容 - Webシステム / スマートフォンアプリ開発 - AI・機械学習 / IoTシステム開発 - クラウドインフラ(Amazon Web Services) - プロダクト事業 所在地 福岡本社 〒810-0001 福岡県福岡市中央区天神4-1-7 第3明星ビル6F TEL:092-737-2616 FAX:092-737-2617 納富 貞嘉 濱﨑 陽一郎 東京証券取引所グロース市場 福岡証券取引所Q-Board ©Fusic Co., Ltd. 2
LM Studio とは • ローカルで LLM を 触れるツール • 公開されているモデルを 好きに読み込んで試せる • ローカルで API サーバーを 立てることも可能 ©Fusic Co., Ltd. 3
LM Studio とは • ローカルで LLM を 触れるツール • 公開されているモデルを 好きに読み込んで試せる • ローカルで API サーバーを 立てることも可能 ©Fusic Co., Ltd. 4
LM Studio とは • ローカルで LLM を 触れるツール • 公開されているモデルを 好きに読み込んで試せる • ローカルで API サーバーを 立てることも可能 ©Fusic Co., Ltd. 5
LM Studio とは • ローカルで LLM を 触れるツール • 公開されているモデルを 好きに読み込んで試せる • ローカルで API サーバーを 立てることも可能 ローカルでコード生成も できるのでは…? ©Fusic Co., Ltd. 6
LM Studio 側の設定 • 左側の検索から好きなモデルを選択してダウンロード ©Fusic Co., Ltd. 7
LM Studio 側の設定 • モデルを選択して読み込み、コンテキスト長を設定 ©Fusic Co., Ltd. 8
LM Studio 側の設定 • モデルを選択して読み込み、コンテキスト長を設定 ©Fusic Co., Ltd. 9
LM Studio 側の設定 • モデルを選択して読み込み、コンテキスト長を設定 • トグルスイッチを押してサーバー起動 ©Fusic Co., Ltd. 10
VSCode(Cline) 側の設定 • 拡張機能から Cline を検索してインストール • 設定で LM Studio を選択し、必要な情報を入力 ©Fusic Co., Ltd. 11
VSCode(Cline) 側の設定 • 拡張機能から Cline を検索してインストール • 設定で LM Studio を選択し、必要な情報を入力 ©Fusic Co., Ltd. 12
VSCode(Cline) 側の設定 • 拡張機能から Cline を検索してインストール • 設定で LM Studio を選択し、必要な情報を入力 ©Fusic Co., Ltd. 13
実際に試してみる 必要なライブラリは インストールされている 前提で、ユーザーが動かせる 正四面体の 3D モデルを 表示するコードが欲しい ©Fusic Co., Ltd. 14
実際に試してみる 生成された HTML ファイル 動作確認 (自分で動かすことは出来なかった) ©Fusic Co., Ltd. 15
感想 • LM Studio でローカル LLM が簡単に動かせるのがいい! • LM Studio で VSCode にローカル LLM を簡単に組み込める! • GitHub copilot とかと比べるとまだまだかも…? (モデルにもよりそうなのでメモリ大富豪の方に検証を任せます) ©Fusic Co., Ltd. 16
Thank You ご清聴いただきありがとうございました! We are Hiring! https://recruit.fusic.co.jp/ @kawara_y ©Fusic Co., Ltd. 17