AIとどう付き合っていくか2025春 #ssmjp

AIとどう付き合っていくか 2025春 #ssmjp ssmonline #47 nekoruri / なかやままさひろ

前提・背景 • 2025年4月現在の情勢に基づいています • 自分でさわった感触＋SNS（おもに𝕏𝕏）上の意見がベース

LLM（大規模言語モデル）のおさらい • インターネット上のたくさんの元データを元になんやかんやして 機械学習した重み付けデータと、それによるサービス • だいたいこの2～3年で一気に発展 • 画像生成：Stable Diffusion（2022） • OpenAI ChatGPT(2022） • GPT-4（2023） • o1（2024） • DeepSeek V3（2024） • 𝕏𝕏 Grok3（2025）

LLMの課題 • LLMは自分が計算機であることを忘れている • LLMの上で正確な演算、大規模な処理をするのは得意ではない • LLMは文脈を知らない • 単体ではステートレスであり、プロンプトに書いていないことは知らない • LLMにどこまで任せれば良いのかわからない • 無限の知識があるなら、頑張ればなんでもできそう

自分が計算機であることを忘れている • 「続きを予測する」という技術がベースにある • Ｑ：「9.11と9.9のどちらが大きいか」 • 「直感」だけで解いているようなもの • 頑張ればできるかもしれない • Chain-of-Thought（CoT） • Reasoningモデル：o1、o3 • そもそも計算機は計算機として素直に動いて欲しい • 計算をする部分はＬＬＭの「外」でやる ⇒ 外の計算機やソフトウェアを上手く使ってもらう • そもそもLLMに「頑張らせる」のは計算コストの無駄遣い

MCPとA2A • Model Context Protocol • シンプルなJSON-RPCベース • ローカル・リモートどちらも想定 • 自己言及的メタプロトコル • たくさんのMCPサーバーが既に存在 https://modelcontextprotocol.io/introduction • https://github.com/punkpeye/awesome-mcp-servers / JA • Agent2Agent Protocol • よりAIエージェント間のやりとりに特化した抽象化

• https://github.com/punkpeye/awesome-mcp-servers
• https://github.com/punkpeye/awesome-mcp-servers/blob/main/README-ja.md
• https://modelcontextprotocol.io/introduction

空前のMCPブーム • シンプルなプロトコル • メソッド名を決めて説明を書いておけばLLMが良い感じに使ってくれる • XML-RPCという開発のしやすさ • そもそもの出自：LLMに手伝ってもらえば簡単に実装できる • UNIX哲学：ひとつの道具でひとつの機能を提供 • なんでもかんでもMCPで提供できなくはない • 例：Playwright MCPでブラウザ操作 ⇒ かしこいRPA • LLMに都度手順を考えさせる 抽象化された部品を使う • 複雑なビジネスロジックのカプセル化 • そもそも良いUI・APIを提供した方が良い

LLMは文脈を知らない • 何かの仕事をするときに前提となる文脈情報 • 組織の中にある仕様書や手順書 • 所属組織のビジネスモデル • 人間が実現したい作業の目的や自分をとりまく現在状況 • これらをLLMに反映させないと価値が低い情報しか出てこない • 知識を増やすファインチューニング（追加学習） • 判断材料を増やすコンテキスト内学習（In-Context Learning） ⇒ 文脈（コンテキスト）を適切につたえることが重要

文脈をどうやってAIに伝えるか • 会話内 • 会話履歴：ChatGPT等 • RAG • システムプロンプト • MCP（もともとの由来） • ローカルファイル、GitHub、RDB、DuckDB等 • AWS Cost Analysis MCP • 自分の行動データ（AI常時接続時代） • Apple Intelligence（iPhoneやmac） • Google Gemini • Microsoft Copilot、Windows Recall

会話履歴 • ChatGPTなど • 以前の会話内容を踏まえた上での回答 • 日常的に利用することでコンテキストがたまっていく • 質問や仕事の手伝い • 疑問の壁打ち • 毎日のふりかえり

RAG：検索拡張生成 • 質問内容に関係する知識を検索してプロンプトに埋め込む • 製品や組織内のドキュメント • 最新の法改正情報 • 論文のサマリー • 最新のニュース • そもそも「検索」というのは難しい技術 • 雑に区切ってベクトルデータベースに入れる ← 2024年 • より複雑な知識グラフに基づいて検索結果と関連情報をたどる • 検索内容自体をＬＬＭに考えさせて繰り返す

AIコーディング • システムプロンプトとしてソースコード等を読ませる • GitHub Copilot、Cursor • 設計や目標、コーディングルールを効果的にLLMに与える方法が 確立しつつある • Prompt as Code：Cursor Rulesの共有 • 意志決定の明文化：ADR、Design Docs • SSoT（Single Source of Truth） • LLMに書かせる ライブラリ化する

AI常時接続時代という近未来 • 24時間絶えずAIと接続できる「AI常時接続時代」 • いつでもどこでも“電脳化”された知能との対話・連携が当たり前になる • 実世界での行動や結果が、継続的にＡＩに流れ込みアップデートされる • データガバナンスやプライバシー • Apple Intelligenceはハイブリッドでかなり頑張ろうとしている • ＧＤＰＲ的世界観 ←→ China的世界観 • 個人の考え方をＡＩに食わせて、同じような意志決定ができるように学習 させるデジタルクローン

集中と分散と電力 • クラウド • 背景：NVIDIAチップをより多く集めたサービスへの集中 • 現在はGPU間のインターコネクト速度やメモリ帯域が極めて重要 • 1ラックにめちゃくちゃ集中させないといけない • 直接液冷技術 ← 2024から実用ベースに • カーボンニュートラル的価値観との摺り合わせ • 太陽光発電との相性の悪さ • マルチリージョン 日本国内 • ソフトバンクデータセンター例 • 当初50MW⇒将来的に1000MW（原発1機）まで計画 • https://www.asahi.com/articles/AST4H3QDQT4HIIPE007M.html • デバイス • デバイス上で動くLLM（もしくはSLM：小規模言語モデル）の発展を 期待しつつもまだもう少し先 • クラウドの向こうにコンテキストを送らないといけない時代はもう少しつづく

• https://www.asahi.com/articles/AST4H3QDQT4HIIPE007M.html

LLMになにをさせるのか • 日々の活動・通常業務にLLMを取り入れる • 営業支援 • 人では面倒くさかった（人件費に見合わない）細かい管理 • 文脈を踏まえたインサイト発見、不正検知 • 新入社員のオンボーディング（研修）、相談相手 • レガシー機器のＤＸ（メーターをカメラで数値データ化）

LLMになにをさせるのか • ＡＩを構成要素としたサービスを提供する • 古くはＡｍａｚｏｎの商品推薦アルゴリズム • AI-OCR • LLM SaaS • SaaSと同じような機能をぜんぶLLMでもできる（かもしれない） • でも正確に動いてくれないと困る

正確性・再現性の担保 • LLMよりも「コンピュータ」にやってもらう方が良い • ⇒ LLMに考えてもらった手順を実行する • LLMに直接問題を解かせる ⇒ 問題を解ける使い捨てコードを書いてもらう • AIにコードを書かせる • Infrastructure as Codeの実施はAIにとっても基本的人権 • コードは普通にコンピューターとして実行してもらう • コードになることで人がレビューできるようになる • 最終的には、LLM-as-a-Judgeしてもらえるかもしれない

デジタルツインとAI SaaS • デジタルツイン：実世界の状態・文脈を電子データとして再現 • トラック（に積まれた荷物）の移動履歴から最適化を提案 • ドローンのカメラで撮影した点群情報から土砂崩れの可能性を予想 • 粒度が重要：キャベツを数えるのに分子レベルのシミュレーションは不要 • AI SaaS • お客さんの文脈情報をもとに、より「深い」サービスを提供 • ルールやコンプライアンスなど、ドメインロジックの強制が難しい ⇒ ＡＩワークフロー

AIワークフロー • ワークフローにAIを組み込む • そもそもあらゆる仕事には手順（ワークフロー）がある • LLMにワークフローの構築を「推論（reasoning）」させる • 「論理的な推論」や「厳密な計算」「ドメイン知識に基づくルール遵守」を LLMに直接解かせるのは悪手 • Agenticワークフロー • 人がやっていた手順にAIを取り込む AIが手順を考える • 膨大な法律や商慣習の知識を元に、AIワークフロー（コード）を書く • コンプライアンスなどワークフローの正しさに対するレビュー・監査もやる • エージェントによる自律判断 コードによる型化 AIコーディング

AIと生きていく • コンテキストをAIに食わせるための道具を揃える • ChatGPT会話履歴 • ObsidianやNotionといったText-friendlyな環境に書きためる • 日常に取り入れる • AIに自分の思考、意志を食わせる、自分の半身を育てる • 日記、ふりかえり、次なにやろう

まとめ • LLMは自分が計算機であることを忘れている • コードを書かせてソフトウェア・ツールを利用してもらう • LLMはコンテキストを知らない • コンテキストを育てていくことが重要 • LLMにどこまで任せれば良いのかわからない • LLMには、解き方を考えてもらい、コード化しレビューする

仲山 昌宏 / @nekoruri • クラウドなんでも屋さん • SecHack365 トレーナー （2017-） • LocationMind （2025-） • 技術系同人誌サークル 「めもおきば」「ssmjp同人部」 • #ssmjp / #qpstudy /#serverlessjp • Microsoft MVP (Azure, Cloud Native) • ProjectSEKAI Rank.430 / こはね全持ち勢 23