27.6K Views
February 06, 25
スライド概要
Linux知識不要!手のひらサイズの ローカルLLM チャットコンピュータ LLMCardputer の つくりかた @GOROman M5Stack LLM 座談会 #02
自己紹介
(省略)
LT おしながき (5分) ・LLMCardputer とは? ・M5 Cardputer とは? ・M5 Module LLM とは? ・つくりかた ・苦労した点(罠・地雷)
LLMCardputer とは?
LLMCardputerとは? M5Stack社が出したLLM用モジュールを使って ChatGPTのショボいやつがネットなしで 手のひらの上で動く。ローカルLLM! 一応日本語でチャットもできる。
LLMCardputerとは? M5Stack社が出したLLM用モジュールを使って ChatGPTのショボいやつがネットなしで 手のひらの上で動く。ローカルLLM! 一応日本語でチャットもできる。 実用度はない(←重要)
LLMCardputerとは? M5Stack社が出したLLM用モジュールを使って ChatGPTのショボいやつがネットなしで 手のひらの上で動く。ローカルLLM! 一応日本語でチャットもできる。 実用度はない(←重要) 浪漫はある(←重要)
Cardputer とは?
Cardputerとは? 手のひらクレカサイズのコンピュータ 昔のポケコンを彷彿 ・IPS液晶(240*135) ・マイク ・スピーカー ・Wifi ・Bluetooth ・SDカード ・赤外線LED ・キーは正直押しにくい(タクトSW)
Module LLM (LLM モジュール?) とは?
Module LLM(LLMモジュール)とは? AXERA(アレクサではない)社のAX630Cを登載。 今話題のLLM(大規模言語モデル Large Language Model)が使えるモジュール。あんま大規模は無理。 モジュールと言いながら、実態はSBC(シングル・ボ ード・コンピュータ)なのでラズパイとかの方が近い。 Linux(ubuntu)がプリイン。 LLMな理由は、AI向けの計算機能(NPU) が チップ内にある。
Smart night vision Chips
Module LLM(LLMモジュール)とは? AXERA(アレクサではない)社のAX630Cを登載。 今話題のLLM(大規模言語モデル Large Language Model)が使えるモジュール。あんま大規模は無理。 モジュールと言いながら、実態はSBC(シングル・ボ ード・コンピュータ)なのでラズパイとかの方が近い。 Linux(ubuntu)がプリイン。 LLMな理由は、AI向けの計算機能 (NPU) が チップ内にある。
NPU NPU(Neural Processing Unit)とは? ニューラルネットワークを プロセッシングする ユニット
高校 情報II 一般教養に?
Module LLMのつかいかた M5Core2 などにブッ刺してスタックさせて 使うのが本来の使い方。 基本はUART(シリアル通信)で LLM機能と通信する。 (TCP ポート10001も使えるが今回は割愛)
フュージョン !!!!!!!!!! !!
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
フュージョン
+
+
+
+
LLMCardputer
1分でわかる LLMCardputer の つくりかた
①分解 と ケースの加工
削る ニッパーでゴリゴリやりました。 (超音波カッターがいいらしい)
切る カッターでゴリゴリやりました。 (超音波カッターがいいらしい)
あらかじめ分解しておいた Module LLM基板を入れる
②ハンダづけ
ハンダづけ Cardputer とつなぐ
③プログラム を 書く
inputText サンプルコードを コピペ
2つのサンプル プログラムを
フュージョン !!!!!!!!!! !!
LLMCardputer開発 苦労した点(罠・地雷) ・去年M5 Storeで注文したModule LLMがロストして 未だ届かない。スイッチサイエンスで買った。 ・IR LEDがモゲるとCardputerの画面がズレる(関係ない) ・ファミリーベーシック風の音の再現(関係ない) ・LLMの反応で null がやたら出る
ケースを 破壊したくない あなたに・・・
3Dプリント済みケース @Mu_Alexius000
Coming Soon….
みんなも つくってみてね END
One More Thing
LLM-CardPuter 公式で 開発開始???
True END