M5Stack の LLM

M5Stack の LLM 2025.2.6 M5Stack LLM 座談会 #02

M5Stack とは ESP32が簡単に使える便利デバイス。いくつかシリーズがある。 ￥ Coreシリーズ ・5cm角 ・ディスプレイ ・ボタン/タッチ ・スタッカブル ・他ペリフェラル多 Stickシリーズ ・ちょっと小さい ・ディスプレイ ・物理ボタン ・他ペリフェラル小 Atomシリーズ ・もっと小さい ・ディスプレイなど ・物理ボタン ・他ペリフェラル小 Stampシリーズ ・一番小さい ・物理ボタン ・I/O多め ・組込み用

Coreシリーズの仲間 LLMモジュール用を使いきるならS3、Basicでも後付けカメラは利用できる。 ￥ Basic CORE2 6,941円 ・第1世代 ・物理ボタン CORE S3 8,778円 ・第2世代 ・タッチパネル 10,581円 ・第3世代 ・タッチパネル ・カメラが付いてる

ModuleとUnit Coreシリーズにスタックして使うのが「Module」、ケーブルで繋いで使うのが「Unit」。 M5Stackの拡張性を担保している。 LLMモジュールは Coreシリーズを拡張する「 Module」

M5Stack LLM Module LLMシリーズ第一弾 4GB LPDDR4/32GB eMMC/MicroSD/USB-OTG /MIC/SPK Opt.Dev Board(Ether/USB UART) M5Stack コアシリーズへの機能追加モジュールとしてライ ンナップ。第2ロットまではDev Boardも付属しLinux SBC としての開発環境もある。SPK/MICが搭載されているの で単体でローカルLLMモジュールとして機能する。

M5Stack LLM630 COMPUTE KIT AXERA社のAX630Cをフルに活用するための全部入り Dev Board 4GB LPDDR4/32GB eMMC/Wi-Fi 6(技適未認 証)/BT5.0/1GBE/MicroSD/USB-UART/USB-OTG/MIPI DSI/MIP CSI/MIK IN/SPK OUT/Grovex2 A,C/BTNx2 Opt.MIPI CSI Camera/MIPI DSI Display リッチなペリフェラルを揃えているのでこれがあれば AX630Cをフル活用可能。

AXERA社 CV用SoC / ADAS / Neutron NPU / Proton AI-ISP /2019～ / etc…

AX630C CPU比較 AX630C A53x2 Zero2W A53x4 Pi3B A53x4 Pi4B A72x4 Pi5 A76x4

AX630C Gen Model 1st 630A 2nd 620A/620U 3rd 650A/650N 4th 630C/620Q 5th? 650C/631/620QP/620QZ

基本的な使い方 １．UIFlow2

基本的な使い方 ２．Arduino IDE

StackFlow StackFlowはネットワーク越しにLLMシリーズを利用するためのフレームワーク ・TCPポート10001もしくはUARTで通信出来る ・メッセージングはZeroMQ ・データ形式はJSON ・bashコマンドも https://github.com/m5stack/StackFlow

• https://github.com/m5stack/StackFlow

Module LLMに接続 main board: ・USB OTG(ADB tool or USB WiFi) ・MBUS(UART) Module root/123456 debug board LLM630 root/root ・USB UART ・Ethernet

LLM630に接続

イラスト：夢波ねいち様 @Yumenami_Neichi https://x.com/Yumenami_Neichi/status/1884938293009334388

ファーム(OS)の書き込み １．ファームの種類 M5_LLM_ubuntu_v1.0_20241024 AX630C_emmc_arm64_k419_ubuntu_rootfs_V2.0.0_P7_20240513101106_20241021175618_20241024_glibc_4_32.axp M5_LLM_ubuntu_v1.3_20241203-mini M5_LLM_ubuntu2022-02_20251203-mini.axp ２．書き込み方法 AXDLというツールを使う（ただしWinのみ） img読込＞書込み開始＞書込みボタン押しながらUSB OTG接続 ３．オレオレOSを作る LTに戻る⏎

Model Zooを試す https://drive.google.com/drive/folders/11aRxsFqJfGXhFMlInudj3Bi8SR-08TXl １．モデル LLM、LVM、CVいろいろ ２．実行ファイル 実行用バイナリあるよ ３．実行方法 実行用バイナリ/pyaxengine(python用runtime) axmodelへの変換と実行用バイナリの自作が出来ると世界が広がる。

• https://drive.google.com/drive/folders/11aRxsFqJfGXhFMlInudj3Bi8SR-08TXl

モデルを変換する流れ AXera Pulsar2 Toolchain Instructions Manual 5. Quick Start(AX620E) をやってみましょう。 https://pulsar2-docs.readthedocs.io/en/latest/user_guides_quick/quick_start_ax62 0e.html#quick-start-ax620e

• https://pulsar2-docs.readthedocs.io/en/latest/user_guides_quick/quick_start_ax620e.html#quick-start-ax620e

実行ファイルを作る流れ AXera Pulsar2 Toolchain Instructions Manual 5. Quick Start(AX620E) をやってみましょう。 https://pulsar2-docs.readthedocs.io/en/latest/user_guides_quick/quick_start_ax62 0e.html#quick-start-ax620e

• https://pulsar2-docs.readthedocs.io/en/latest/user_guides_quick/quick_start_ax620e.html#quick-start-ax620e

Pythonで何とかしたい pyaxengineを使うとpython用のruntimeとして実行可能。 頑張ると自分用のオレオレruntimeも作れる（作った）

とりあえずLLM動かす Linux PCとして使って、LLM Module内でLLMを実行する 一度やったことがある（覚えてないけど 第三部でやってみる予定

ハッシュタグ #M5StackLLM #ModuleLLM #StickLLM

有用リンク nnnさんのリンクまとめ https://github.com/nnn112358/awesome_M5Stack_ModuleLLM アドベントカレンダー https://qiita.com/advent-calendar/2024/m5stack_module_llm

• https://github.com/nnn112358/awesome_M5Stack_ModuleLLM
• https://qiita.com/advent-calendar/2024/m5stack_module_llm

第三部 やってみたいこと ①Model ZOOのLLMを動かしてみる ②Model ZOOのVLMを動かしてみる ③Pythonから①か②を動かしてみる ④カメラ画像キャプチャして③やってみる