--- title: 北海道大学 大学院共通授業科目『「脳とAI」入門』第3回講義資料 tags: author: [吉田正俊](https://image.docswell.com/user/pooneil68) site: [Docswell](https://www.docswell.com/) thumbnail: https://bcdn.docswell.com/page/47M6KZZ6JW.jpg?width=480 description: 北海道大学 大学院共通授業科目『「脳とAI」入門』第3回講義のスライドです。 詳しいことについては『「脳とAI」入門2026』補足資料 https://www.chain.hokudai.ac.jp/members/pooneil/lecture_brain_AI2026.html をごらんください。 受講生でなくても利用可能です。 ライセンス: CC-BY4.0 吉田正俊 published: October 25, 26 canonical: https://image.docswell.com/s/pooneil68/ZN73EL-2026-10-25-181245 --- # Page. 1 ![Page Image](https://bcdn.docswell.com/page/47M6KZZ6JW.jpg) 大学院共通授業科目『「脳とAI」入門』 第3回 人工ニューラルネットワークと学習 誤差から結合を変えるとはどういうことか 第2回からの問い 今回の見取り図 課題に必要な変え方をどう決めるのか？ 損失 → 勾配 → 内部表現 → 脳 結合が変わることは分かった。 2026年10月20日（火）18:15‒19:45 単純パーセプトロン → MLP 北海道大学 CHAIN｜教授 吉田正俊 # Page. 2 ![Page Image](https://bcdn.docswell.com/page/P7RPX66NJ9.jpg) PART 1｜AI & MACHINE LEARNING AIとは何か――判別から生成まで AI（人工知能） 認識・推論・判断・生成など、知的な働きをコンピュータで実現する技術の総称 機械学習 データから規則性を学び、新しい入力への判別・予測・生成などに用いる方法 生成AI 判別・予測 例：画像のクラスを判別する 例：文章による指示から画像を作る 文章による指示 「猫」 「月夜の森にいる 青いキツネを描いて」 分類結果 入力画像（猫） 生成された画像 今回は、人工ニューラルネットワークによる「2クラス分類」の学習を扱う 猫写真：Alvesgaspar, “Cat August 2010-4.jpg”, Wikimedia Commons, CC BY-SA 3.0 トリミングして使用。本画像部分は同ライセンス。右図：画像生成の作例（説明用） 大学院共通授業科目『「脳とAI」入門』｜第3回 01 # Page. 3 ![Page Image](https://bcdn.docswell.com/page/PJX36MM87X.jpg) PART 1｜A SIMPLE CLASSIFICATION TASK 課題：2つの特徴量から、クラスA／Bを判別する 学習に使うデータ（一部） 個体 番号 x₁ x₂ クラス 1 0.30 −0.34 A 2 0.10 −0.38 A ⋮ ⋮ ⋮ ⋮ 昆虫Aと昆虫Bのどちらなのかを 41 0.29 0.75 B 体長x1と重量x2だけから判別したい 42 −0.92 −0.64 B ⋮ ⋮ ⋮ 具体的な問題例: ⋮ 1行が、1個体のデータ 大学院共通授業科目『「脳とAI」入門』｜第3回 02 # Page. 4 ![Page Image](https://bcdn.docswell.com/page/3JKY1GGL7D.jpg) PART 1｜A SIMPLE CLASSIFICATION TASK 課題：2つの特徴量から、クラスA／Bを判別する クラス A 学習に使うデータ（一部） 個体 番号 x₁ x₂ クラス 1 0.30 −0.34 A 2 0.10 −0.38 A ⋮ ⋮ ⋮ ⋮ 41 0.29 0.75 B 42 −0.92 −0.64 B ⋮ ⋮ ⋮ x₁ だけを見る クラス B x₂ だけを見る モデル：直線で分けられる合成データ x₁ と x₂ を一緒に見る ⋮ 1行が、1個体のデータ 2クラスの分布は同じ 2クラスの分布が重なる 2次元では直線で分けられる 二つの特徴量を組み合わせれば、1本の直線で2クラスを分けられる。 本講義用の合成データ・1ニューロン計算 大学院共通授業科目『「脳とAI」入門』｜第3回 02 # Page. 5 ![Page Image](https://bcdn.docswell.com/page/LE39QNN6E5.jpg) PART 2｜SIMPLE PERCEPTRON 1個の人工ニューロンで2クラスを判別する――単純パーセプトロン 1ニューロン＋閾値関数 人工ニューロンの構造（第1回の復習） 入力空間での分類境界 x₁ w₁ Σ w₂ f ŷ ＋b x₂ z = w1x1 + w2 x2 + b f は閾値関数：z を 0 と比べて二値出力にする z ≥ 0 → B（1） 例：w1 = − 1, z < 0 → A（0） w2 = + 1, b = 0 → 境界 x2 = x1 ※この重みは分類可能性を示す説明用設定で、学習結果ではない これからデータを使って w₁・w₂・b を学習する 黒い直線：z=0（w₁=−1, w₂=+1, b=0） 単純パーセプトロンは、1個の人工ニューロンで2クラスを判別するモデル。 元第1回S38の模式図／本講義の合成データ（分類境界は説明用設定） 大学院共通授業科目『「脳とAI」入門』｜第3回 03 # Page. 6 ![Page Image](https://bcdn.docswell.com/page/8EDG9WWMEG.jpg) PART 2｜WEIGHT LEARNING 重みを学習すると、同じ入力に対する出力が変わる 入力 x₁・x₂ 同じ80点を比較｜色は正解クラス：青 0 ／ 赤 1 重み付き和 z 入力点は学習前後で同じ 出力 ŷ ŷ = sigmoid(z) z = w1x1 + w2 x2 + b 学習前 更新0回 x₂ 1.8 0 -1.8 -1.2 -0.6 0 0.6 1.2 -5 -2.5 x₁ w₁ = +0.500 w₂ = +0.320 0 2.5 5 0 z 0.5 1 ŷ b = −0.120 学習後 x₂ 1.8 0 2,000回 -1.8 -1.2 -0.6 0 0.6 x₁ w₁ = −5.968 w₂ = +6.283 1.2 -5 -2.5 0 2.5 5 0 z 0.5 1 ŷ b = +0.127 入力は同じ。重みとバイアスを変えると、z と出力が変わる。 1ニューロン＋sigmoid｜本講義用モデルの実計算｜z・ŷ の縦のずらしは表示用 大学院共通授業科目『「脳とAI」入門』｜第3回 05 # Page. 7 ![Page Image](https://bcdn.docswell.com/page/V7P3Z99QJ8.jpg) PART 2｜WEIGHT LEARNING 同じ判別基準を、入力・重み付き和・出力で見る 入力 x₁・x₂ 重み付き和 z 入力点は学習前後で同じ x₂ 更新0回 ŷ = sigmoid(z) z=0 ŷ = 0.5 0 -1.8 -1.2 -0.6 0 0.6 1.2 -5 -2.5 x₁ w₁ = +0.500 w₂ = +0.320 x₂ 0 2.5 5 0 0.5 z 1 ŷ 正しく分類：49 / 80 点 b = −0.120 z=0 1.8 学習後 出力 ŷ z = w1x1 + w2 x2 + b 1.8 学習前 同じ80点を比較｜色は正解クラス：青 0 ／ 赤 1 ŷ = 0.5 0 2,000回 -1.8 -1.2 -0.6 0 0.6 x₁ w₁ = −5.968 w₂ = +6.283 b = +0.127 1.2 -5 -2.5 0 2.5 5 0 0.5 z 1 ŷ 正しく分類：80 / 80 点 3つの境界は同じ判定。z = 0 と ŷ = 0.5 は、学習前後で固定。 1ニューロン＋sigmoid｜本講義用モデルの実計算｜z・ŷ の縦のずらしは表示用 大学院共通授業科目『「脳とAI」入門』｜第3回 05′ # Page. 8 ![Page Image](https://bcdn.docswell.com/page/2JV4WMMP7Q.jpg) PART 3｜WHAT IS LOSS? 正解とのずれを「損失」として数値化する 訓練データから一つの赤い点を選ぶ 正解ラベル y = 1 モデル：S05と同じ学習の前後 同じ入力で、学習前後の出力を比較 1 2 損失 E = (ŷ − y) 2 E： 0.1909 → 0.00058 損失 E は、重みの変え方を決めるための「小さくしたい量」。 本講義用の合成データ・1ニューロン計算 大学院共通授業科目『「脳とAI」入門』｜第3回 06 # Page. 9 ![Page Image](https://bcdn.docswell.com/page/5EG1DGGQJL.jpg) PART 3｜GRADIENT OF LOSS 重みを少し動かすと、損失はどう変わるか w₁だけを変え、w₂とbは固定する モデル：80点の平均損失 現在の傾き ∂E ≈ + 0.0157 ∂w1 傾きが正なら w₁ を小さくする方向 傾き＝「その重みだけを少し変えたと きの損失の変化」 重み1本を変えたときの損失の「傾き」が、更新方向の手掛かりになる。 本講義用の合成データ・1ニューロン計算 大学院共通授業科目『「脳とAI」入門』｜第3回 07 # Page. 10 ![Page Image](https://bcdn.docswell.com/page/4JQD1XXW7P.jpg) PART 3｜GRADIENT DESCENT 勾配降下：すべての重みを、損失が下がる方向へ 重み2個＋バイアス1個を更新 モデル：全バッチ勾配降下 同じ更新を繰り返す 新しい値 = 現在の値 − η × 傾き η = 0.85（学習率） 初期値 1回後 w₁ +0.500 → +0.487 w₂ +0.320 → +0.348 b -0.120 → -0.111 訓練損失：0.1154 → 0.1141 勾配は毎回、現在の重みで計算し直す 勾配は更新方向の情報。勾配降下は、その情報で重みを変える方法。 本講義用の合成データ・1ニューロン計算 大学院共通授業科目『「脳とAI」入門』｜第3回 08 # Page. 11 ![Page Image](https://bcdn.docswell.com/page/K74ZR661E1.jpg) PART 3｜TRAINING & EVALUATION 学習したモデルは、未使用データでも分類できるか 訓練データ：80点 テストデータ：未使用の48点 正解を使って、重みを更新する 重みを変えず、学習後のモデルを評価する 同じ生成規則で、別々のデータを用意する 訓練80点 0.12 テスト48点 1.8 x₂ 平均損失 E 0.9 0 -0.9 0 0 500 1000 1500 2000 -1.8 -1.2 -0.6 更新回数 テスト損失は、重みの更新に使わない 0 0.6 1.2 x₁ 正しく分類：48 / 48 点 学習に使った点での成功を、未使用データでも確かめる。 同じ単純な生成規則の範囲での結果｜本講義用モデルの実計算 大学院共通授業科目『「脳とAI」入門』｜第3回 09 # Page. 12 ![Page Image](https://bcdn.docswell.com/page/LJ1RQVV5JG.jpg) PART 4｜A NEW PROBLEM: XOR 新しい課題：XOR型の2クラスは、単純パーセプトロンでは判別できない モデル：課題Bの合成データ 新しい課題(データ分布が違う)：クラスA(青)とクラスB(赤)が４つのクラスターになってる 仮に一本の縦線 x₁ = 0 を引くと… 1 上の2群は正しく判別できる 下の2群はどちらも誤分類 x₂ 0 線を傾けたり動かしたりしても、 4群を同時には分けられない。 細い黒点線：同じクラスの2群を結ぶ補助線 −1 −1 0 x₁ 1 クラス A（青） クラス B（赤） 限界は学習の方法ではなく、「一本の直線」という表現能力にある。 モデル：4中心のGaussian点群／XOR型配置 大学院共通授業科目『「脳とAI」入門』｜第3回 10 # Page. 13 ![Page Image](https://bcdn.docswell.com/page/GJW1MLLWE2.jpg) PART 4｜THREE-LAYER MLP 多層パーセプトロン(MLP): 人工ニューロンを多層に組み合わせる 入力層（2） 中間層（2） 出力層（1） h₁ x₁ ŷ x₂ h₂ 3層＝入力・中間・出力 結合を学習する段階は2つ 重み付き和と非線形変換を2段階に組み合わせることで、表現能力が広がる。 モデル：2–2–1 MLP・tanh＋sigmoid・5000回の更新 大学院共通授業科目『「脳とAI」入門』｜第3回 11 # Page. 14 ![Page Image](https://bcdn.docswell.com/page/4EZPQMM2J3.jpg) PART 4｜THREE-LAYER MLP 多層パーセプトロン(MLP)なら、XOR型も分類できる 入力層（2） 中間層（2） 出力層（1） 左：構造／右：学習後の計算 h₁ の内部の計算 h₁ x₁ z1 = w11x1 + w12 x2 + b1 h1 = tanh(z1) ŷ x₂ h₂ 出力層の計算 zout = v1h1 + v2h2 + c ŷ = sigmoid(zout) 3層＝入力・中間・出力 結合を学習する段階は2つ (w, v) 重み付き和と非線形変換を2段階に組み合わせることで、表現能力が広がる。 モデル：2–2–1 MLP・tanh＋sigmoid・5000回の更新 大学院共通授業科目『「脳とAI」入門』｜第3回 11′ # Page. 15 ![Page Image](https://bcdn.docswell.com/page/Y76M6N56EV.jpg) PART 4｜LEARNING AN MLP 多層パーセプトロン(MLP)なら、XOR型も分類できる モデル：課題B（XOR型） 学習後（更新 5000 回） 学習前（更新 0 回） クラス A（青） クラス B（赤） 損失と勾配降下は既習。新しい問い：中間層の重みの勾配はどう求める？ モデル：2–2–1 MLP／訓練80点・未使用評価48点／5000回更新 大学院共通授業科目『「脳とAI」入門』｜第3回 12 # Page. 16 ![Page Image](https://bcdn.docswell.com/page/G75Z65Y5J4.jpg) PART 5｜FORWARD PASS 順伝播：入力から出力、そして損失を計算する モデル：学習前の訓練用1点 入力 中間 x₁ h₁ −1.06 ＋0.042 x₂ 出力 正解 y = 1 ŷ = 0.362 損失 E ŷ 0.203 h₂ ＋0.69 −0.932 ŷ = f(x; W), 1 2 E = (ŷ − y) 2 順伝播では重みを固定して出力と損失を求める。まだ重みを変更しない。 モデル：課題B（XOR型）の訓練用1点／初期重み 大学院共通授業科目『「脳とAI」入門』｜第3回 13 # Page. 17 ![Page Image](https://bcdn.docswell.com/page/9J2RMNGG7R.jpg) PART 5｜BACKPROPAGATION 誤差逆伝播①：出力層の感度を求める モデル：S13と同じ1点・同じ重み δ：重み付き入力 z を少し変えたときの、損失 E の変わり方 入力 中間 x₁ h₁ 出力 正解 y = 1 ŷ = 0.362 損失 E ŷ x₂ 0.203 δₒ = −0.147 h₂ Advanced: 連鎖律 ∂E ∂E ∂ŷ ̂ − y)̂ δo = = = (ŷ − y)y(1 ∂zo ∂ŷ ∂zo −0.147 出力側のδ ⏟ ⏟ ̂ y−y ̂ y(1− y)̂ (−0.638) 0.231 出力と正解のずれ sigmoidの傾き 出力側のδを求めてから、中間層へ計算を進める。 Rumelhart, Hinton & Williams, 1986／本講義の数値計算 大学院共通授業科目『「脳とAI」入門』｜第3回 14 # Page. 18 ![Page Image](https://bcdn.docswell.com/page/DEYDXPVGEM.jpg) PART 5｜BACKPROPAGATION 誤差逆伝播②：中間層の感度を求める モデル：S13と同じ1点・同じ重み 計算済みの出力側のδを使い、二つの中間ユニットのδを求める。 入力 中間 x₁ h₁ 出力 v₁ = −0.537 δ₁ = ＋0.079 x₂ 損失 E ŷ v₂ = ＋0.581 h₂ 0.203 δₒ = −0.147 δ₂ = −0.011 Advanced: 連鎖律 ∂E ∂E ∂zo ∂hi 2 δi = = = δovi(1 − hi ) ∂zi ∂zo ∂hi ∂zi 中間ユニット 出力側のδ 結合重み vᵢ tanhの傾き 求めるδᵢ 1 −0.147 −0.537 0.998 2 −0.147 ＋0.581 ＋0.079 0.131 −0.011 同じ出力側のδから、結合重みと傾きに応じて異なるδが得られる。 Rumelhart, Hinton & Williams, 1986／本講義の数値計算 大学院共通授業科目『「脳とAI」入門』｜第3回 14′ # Page. 19 ![Page Image](https://bcdn.docswell.com/page/VJN615M8J8.jpg) PART 5｜CREDIT ASSIGNMENT 中間層へ入る結合の勾配は、どう求める？ モデル：S13–S14と同じ1点 同じ入力 x₁ から中間層へ向かう2本の結合 入力 x₁ Δw11 > 0→ 重み↑ −1.06 Δw21 < 0 → 重み↓ 中間 シナプス重みの変化量 h₁ Δw11 = − ηδ1x1 = + 0.0836η δ₁ = ＋0.079 Δw21 = − ηδ2 x1 = − 0.0118η h₂ δ₂ = −0.011 Advanced: 連鎖律 ∂E ∂E ∂zi = = δiaj ∂wij ∂zi ∂wij ⏟⏟ δi aj aⱼ：送り手jの活動（今の場合、 x₁） ※ S13–S14と同じMLP。x₂からの結合は図のみ省略し、計算には含む。 δᵢ：受け手iごとの感度 同じ入力 x₁ でも、受け手の δ が異なれば更新方向も異なりうる。 Goodfellow et al., 2016, Ch.6／本講義モデルの実計算値 大学院共通授業科目『「脳とAI」入門』｜第3回 15 # Page. 20 ![Page Image](https://bcdn.docswell.com/page/YE9L5YNX73.jpg) PART 5｜ONE LEARNING CYCLE 誤差逆伝播と勾配降下は、役割が異なる モデル：80訓練点の平均 ① 順伝播 ② 誤差逆伝播（BP） ③ 勾配降下（GD） 出力と損失を計算 各重みの勾配を計算 勾配を使い重みを更新 入力 → 中間 → 出力 損失側から遡る まだ重みは変えない 各重みを修正して 次の順伝播へ 目標と出力を比較 1 80 ∇W Etrain = ∇W En 80 ∑ n=1 80点の勾配を平均して更新する（S12で示した課題Bの訓練設定） BP＝勾配の計算法。勾配降下＝勾配を用いた更新法。 モデル：最初の一更新で平均損失 0.13621 → 0.13485 大学院共通授業科目『「脳とAI」入門』｜第3回 16 # Page. 21 ![Page Image](https://bcdn.docswell.com/page/GE8XY6K9JD.jpg) PART 6｜CREDIT ASSIGNMENT credit assignmentと、脳の学習への問い ① 各結合をどう変えるか credit assignment：出力の誤りを減らすために、 各結合をどの方向に、どの程度変えるべきかを求める問題。 ② ANNでの解法：BPで各結合の勾配を求める 感度δから勾配を計算し、GDで更新 正解に近づくため、出力を増やしたい h1の活動を下げたい h₁ Δwij = − ηajδi 出力を減らす向きに働く（−） aⱼ：送り手の活動 出力 h2の活動を上げたい h₂ 出力を増やす向きに働く（＋） δᵢ：受け手側の損失への感度 η：学習率 ／ wᵢⱼ：j から i への結合重み 中間層のδᵢを求めるのに必要な情報 出力側の感度 ／ 下流の結合重み 自身の応答特性 ③ 脳での実装への問い 各結合に必要な修正を決める情報を、シナプスでどう利用できるのか？ 大学院共通授業科目『「脳とAI」入門』｜第3回 17 # Page. 22 ![Page Image](https://bcdn.docswell.com/page/LEL849ZM7R.jpg) PART 6｜BIOLOGICAL CREDIT ASSIGNMENT BPに必要な情報は、脳でどう戻るのか 細胞間の伝達｜通常の化学シナプス 通常の伝達 軸索を伝わる 活動の向き A から B へ 送り手 A シナプス 受け手 B 放出側から受容側へ BPの計算では、出力側の情報を上流へ使う 同じ配線の逆走では説明できない。戻す経路と、計算の仕組みが必要。 Lillicrap et al. (2016, 2020) ｜ 通常の伝達様式を示す 大学院共通授業科目『「脳とAI」入門』｜第3回 17 # Page. 23 ![Page Image](https://bcdn.docswell.com/page/4JM6KZV6EW.jpg) PART 6｜FEEDBACK CIRCUITS 学習に必要な情報を、別の回路で戻す 計算モデルの考え方 順方向の結合に加えて、戻り方向の結合を持つ回路を考える。 順方向：入力から出力を作る 入力に 近い層 出力側 の層 中間層 フィードバック：出力側の情報を戻す それぞれの経路では、通常の向きに神経伝達する 予測符号化（predictive coding）を使う計算モデル 予測と実際の活動のずれを回路内で扱うことで、 条件のもとで、BPに近い結合更新を実現できる。 予測符号化の仕組みは第6回で説明する。数式と原図は補足A1‒A3へ。 Whittington & Bogacz (2017) ｜ 経路の概念図。原著の回路構成は補足A1‒A3 大学院共通授業科目『「脳とAI」入門』｜第3回 18 # Page. 24 ![Page Image](https://bcdn.docswell.com/page/PJRPX62NE9.jpg) PART 6｜SIGNALS FOR LEARNING 順方向の情報処理と、学習のための情報 S16の再掲 ① 順伝播 ② 誤差逆伝播（BP） ③ 勾配降下（GD） 出力と損失を計算 各重みの勾配を計算 勾配を使い重みを更新 入力 → 中間 → 出力 損失側から遡る まだ重みは変えない 各重みを修正して 次の順伝播へ 目標と出力を比較 順方向（forward） 入力から出力を作る フィードバック（feedback） 結合の修正に必要な情報を戻す これらの情報を、同じ細胞でどう扱うのか？ 異なる役割の情報を区別し、必要な場所で組み合わせる仕組みが必要。 Guerguiev et al. (2017); Sacramento et al. (2018) 大学院共通授業科目『「脳とAI」入門』｜第3回 18′ # Page. 25 ![Page Image](https://bcdn.docswell.com/page/PEX36MD8JX.jpg) PART 6｜DENDRITIC SIGNALS 一個の細胞内では、発火が樹状突起にも伝わる 別の細胞 頂端樹状突起 bAP：逆伝播する活動電位 別の細胞からの フィードバック bAP 軸索初節 送り手の入力 基底樹状突起 backpropagating action potential 軸索初節で生じた活動電位が、 細胞体を経て樹状突起にも伝わる。 入力を受ける場所に、 受け手自身の発火情報も届く。 細胞体 自身の発火 一個の細胞内の伝播｜生理学の模式図 軸索から出力 送り手の入力と自身の発火を組み合わせ、 結合を変える手がかりにできる。 bAPは自身の発火情報。δᵢとは異なる。 自身の発火が届くだけでは、損失を減らすための修正方向までは分からない。 Stuart & Sakmann (1994); Markram et al. (1997) 大学院共通授業科目『「脳とAI」入門』｜第3回 19 # Page. 26 ![Page Image](https://bcdn.docswell.com/page/3EKY1GXLJD.jpg) PART 6｜DENDRITIC COMPUTATION 細胞内の区画を使い、情報処理と学習を両立する 計算モデル：Sacramento et al.（2018） 上位側の細胞 頂端樹状突起 フィードバック 学習信号 基底樹状突起への入力 順方向の入力から、 細胞の出力を作る。 頂端樹状突起と局所回路 出力側からのフィードバックを、 学習に使う信号に変える。 細胞体 基底樹状突起 順方向の入力 入力側の結合を更新 上位側へ 学習信号が細胞体の活動に影響し、 入力側の結合を変える手がかりになる。 樹状突起の区画と局所回路により、条件のもとでBPに近い学習を実現できる。 Sacramento et al. (2018), Fig. 1・Eq. 7を参照した模式図 大学院共通授業科目『「脳とAI」入門』｜第3回 20 # Page. 27 ![Page Image](https://bcdn.docswell.com/page/L739QN5675.jpg) PART 6｜EXPERIMENTAL EVIDENCE 樹状突起の役割を、光遺伝学で検証する段階へ マウスの学習実験：Francioni et al.（2026） 光で活性化 平均 頂端樹状突起への 抑制を強める 学習中に介入 SEM 樹状突起を 抑える細胞 訓練による成績改善が弱まる 樹状突起が学習に果たす役割を、実際に操作して調べられるようになった。 Francioni et al. (2026), Fig. 5f,h ｜ 左：模式図／右：報告値からの再プロット 大学院共通授業科目『「脳とAI」入門』｜第3回 21 # Page. 28 ![Page Image](https://bcdn.docswell.com/page/87DG9WDM7G.jpg) SUMMARY｜LEARNING IN THE BRAIN 「脳では難しい」から、検証できる仮説へ 計算原理・回路モデル・実験の到達点 最初の難問 出力側の情報を、各細胞の結合更新へどう反映するか。 2017 計算原理 フィードバック回路と予測符号化による学習 2018 回路モデル 樹状突起と抑制回路で、学習に使う差を作る 2026 実験 樹状突起への光遺伝学的介入で、学習との関係を検討 標準BPの脳内実装は未確立。近似する仕組みを具体的に研究できる段階へ。 次は、学習したネットワークの内部に、どのような表現ができるか。 Whittington & Bogacz (2017); Sacramento et al. (2018); Francioni et al. (2026) 大学院共通授業科目『「脳とAI」入門』｜第3回 22 # Page. 29 ![Page Image](https://bcdn.docswell.com/page/VJP3Z9XQE8.jpg) PART 6 ｜ LEARNED REPRESENTATION 同じ80点が、内部表現を通ると出力で2クラスに分かれる モデル：学習後・同一の80点 入力空間：x₁ と x₂ 入力された 80 点 出力：ŷ 中間層：h₁ と h₂ → → wji の学習 v1, v2 の学習 内部での活動値 h₁・h₂ 出力では 0 と 1 に近い値へ 順伝播： (x₁, x₂) → (h₁, h₂) → ŷ。内部表現を経ることで、最終出力で2クラスが分かれる。 図：学習後MLP。右図は各点の最終出力 ŷ を1次元に並べたもの 大学院共通授業科目『「脳とAI」入門』｜第3回 23 # Page. 30 ![Page Image](https://bcdn.docswell.com/page/2EV4WMLPJQ.jpg) PART 6 ｜ LEARNED REPRESENTATION 中間層の活動空間では、一本の直線で2クラスを分けられる モデル：学習後・同一の80点 入力空間：x₁ と x₂ 出力：ŷ 中間層：h₁ と h₂ → 入力空間では一本の直線で分けられない → 中間層の活動空間では一本の直線で 分けられる 出力では ŷ = 0.5 を境に分かれる 3図の境界はいずれも ŷ = 0.5 に対応する。 入力空間では一本の直線で分けられず、中間層では直線で分けられる。 黒線はいずれも ŷ = 0.5 に対応する境界。右図の縦線が同じ閾値を表す 大学院共通授業科目『「脳とAI」入門』｜第3回 23′ # Page. 31 ![Page Image](https://bcdn.docswell.com/page/57G1DGXQEL.jpg) NEXT｜LECTURE 4 / REPRESENTATION LEARNING この内部表現は、学習によって形成された モデル：同じ80点・同じMLP 学習前（更新0回） 学習後（更新5000回） 訓練用：正答率 50% 訓練用：正答率 100% クラスA (0) クラスB (1) 入力点は同じ80点。学習によって中間の活動値 h₁・h₂ が変化した。 モデル：本講義の2‒2‒1 MLP（学習前後の同じ訓練80点） 大学院共通授業科目『「脳とAI」入門』｜第3回 24 # Page. 32 ![Page Image](https://bcdn.docswell.com/page/4EQD1X8WJP.jpg) END｜NEXT LECTURE 第3回はここまで 次回：第4回「視覚野とCNN：NeuroAI」 学習した人工ニューラルネットワークの内部表現は、 脳の視覚野の活動と、どこが似ているのだろうか？ 2026年10月27日（火）18:15‒19:45 質問は講義中・チャットでも歓迎します 大学院共通授業科目『「脳とAI」入門』｜第3回 25 # Page. 33 ![Page Image](https://bcdn.docswell.com/page/KJ4ZR62171.jpg) REFERENCES｜READING 参考文献：ANN・学習の仕組み Rosenblatt (1958) パーセプトロン Psychological Review 65:386‒408 ｜ doi:10.1037/h0042519 Rumelhart, Hinton & Williams (1986) 誤差逆伝播 Nature 323:533‒536 ｜ doi:10.1038/323533a0 Goodfellow, Bengio & Courville (2016) Deep Learning MIT Press, Chapter 6 ｜ www.deeplearningbook.org 3Blue1Brown / Grant Sanderson (2017) BPの直観的説明 What is backpropagation really doing? ｜ 3blue1brown.com/lessons/backpropagation 今回の分類・勾配・内部表現の図は、講義用MLPを実行したモデル計算（論文図の転載ではない）。 大学院共通授業科目『「脳とAI」入門』｜第3回 26 # Page. 34 ![Page Image](https://bcdn.docswell.com/page/LE1RQVM5EG.jpg) REFERENCES｜READING 参考文献：脳の学習とBP Hebb (1949) 連合学習の古典的提案 The Organization of Behavior ｜ Wiley Bi & Poo (1998) スパイクタイミング依存可塑性 Journal of Neuroscience 18:10464‒10472 ｜ doi:10.1523/JNEUROSCI.18-24-10464.1998 Lillicrap et al. (2016) Feedback alignment Nature Communications 7:13276 ｜ doi:10.1038/ncomms13276 Lillicrap et al. (2020) Backpropagation and the brain Nature Reviews Neuroscience 21:335‒346 ｜ doi:10.1038/s41583-020-0277-3 Ananthaswamy (2021) 一般向け解説 Quanta Magazine ｜ Artificial Neural Nets Finally Yield Clues to How Brains Learn モデルで学習できることと、脳で同じ学習機構が実装されることは区別する。 大学院共通授業科目『「脳とAI」入門』｜第3回 27 # Page. 35 ![Page Image](https://bcdn.docswell.com/page/GEW1ML3W72.jpg) REFERENCES｜PRIMARY STUDIES 参考文献：樹状突起と学習信号 本編と補足の一次文献 Stuart & Sakmann（1994） Active propagation of somatic action potentials into neocortical pyramidal cell dendrites. Nature 367:69‒72. DOI: 10.1038/367069a0 Whittington & Bogacz（2017） An Approximation of the Error Backpropagation Algorithm in a Predictive Coding Network with Local Hebbian Synaptic Plasticity. Neural Computation 29:1229‒1262. DOI: 10.1162/NECO̲a̲00949 Sacramento et al.（2018） Dendritic cortical microcircuits approximate the backpropagation algorithm. NeurIPS 31. arXiv:1810.11393 Francioni et al.（2026） Vectorized instructive signals in cortical dendrites. Nature 652:1254‒1263. DOI: 10.1038/s41586-026-10190-7 詳細な参照箇所・成立条件は各スライドの講師ノートに記載 大学院共通授業科目『「脳とAI」入門』｜第3回 28 # Page. 36 ![Page Image](https://bcdn.docswell.com/page/47ZPQMV2E3.jpg) COURSE GUIDANCE｜CONFIRMATION QUIZ 確認テスト：基本事項を2問で確認する 問題の形式 受験時の注意 2問・4択・単一正答 受験は1回のみ／やり直しなし 問題バンクからランダム出題 全解答の送信後に正誤と解説を表示 講義スライドを参照してよい リアクションペーパーは任意 締切：2026年10月27日（火）18:15 大学院共通授業科目『「脳とAI」入門』｜第3回 29 # Page. 37 ![Page Image](https://bcdn.docswell.com/page/YJ6M6NY67V.jpg) APPENDIX｜WHITTINGTON & BOGACZ 2017 1/3 予測符号化回路：状態と予測誤差を分ける 原著Fig. 2B：状態・誤差ユニットの結合 原図では、右が入力側、左が出力側 x：その層の状態・活動 μ：入力側の層から作る予測 μi = ∑ θij f(xj) j ε：実際の状態と予測の差 xi − μi εi = Σi Σᵢ：誤差の重みづけを決める分散 θᵢⱼ：予測の結合重み 出力側（層0） 中間層（層1） 入力側（層2） f：非線形関数 学習時には入力と教師出力を固定し、 まず内部の活動を調整する。 回路の活動で、各結合が利用できる学習信号を作る。 Whittington & Bogacz (2017), Fig. 2B, Eqs. 2.17–2.19（図は該当パネルを抜粋） © 2017 Massachusetts Institute of Technology. 図のライセンス：CC BY 3.0 大学院共通授業科目『「脳とAI」入門』｜第3回 A1 # Page. 38 ![Page Image](https://bcdn.docswell.com/page/GJ5Z65G5E4.jpg) APPENDIX｜WHITTINGTON & BOGACZ 2017 2/3 入力だけを与えると、順伝播と同じ状態に落ち着く 原著Fig. 4A：教師出力を与えない予測モード 入力を固定。その他の状態は自由に調整する。 各層で状態と予測が一致 ff x = με = 0 x ff： 通常の順伝播で得られる状態 状態ユニットは活動している 灰色の x が残り、 誤差ユニット ε は白くなる。 出力側 中間層 入力側（固定） まだ正解との比較はしていない 自分の重みが作る予測と、 内部状態が整合した状態。 予測誤差がゼロでも、課題の正解を出せたとは限らない。 Whittington & Bogacz (2017), Fig. 4A, §3.1.1（図は該当パネルを抜粋） © 2017 Massachusetts Institute of Technology. 図のライセンス：CC BY 3.0 大学院共通授業科目『「脳とAI」入門』｜第3回 A2 # Page. 39 ![Page Image](https://bcdn.docswell.com/page/LE39QNR5E5.jpg) APPENDIX｜WHITTINGTON & BOGACZ 2017 3/3 教師出力による活動の調整から、BPに近い更新へ 原著Fig. 4B：入力と教師出力を固定 教師出力の影響が、中間層の誤差にも現れる ① 活動を調整する（重みは固定） dxm = − εm + wf′(xm)εo dt m：中間状態 o：出力側 w：両者の結合 ② 平衡で、BPと同じ形の関係になる ∗ ∗ ∗ εm = wf′(xm)εo *：活動が落ち着いた状態。複数の出力なら総和。 ③ その場の誤差と送り手の活動で更新 Δθij = ηεi∗ f(xj∗) 赤い矢印：活動が落ち着いた後に増やす重み 説明用の線形例：入力1、重み a = b = 1、正解2 方法・出力分散 中間状態 Δa / α BP PC：S = 1 PC：S = 99 1.000 1.500 1.010 1.000 0.500 0.990 PCは η = αS として比較。Sを大きくし、内部活動への教師の影響を弱める。 Δb / α 1.000 0.750 0.9999 BPは xᶠᶠ、予測符号化は調整後の x* を使う。 x* が xᶠᶠ に近いと、更新もBPに近づく。 成立条件：平衡への収束・対応する重み係数など。 生体で同じ回路が実証されたわけではない。 Whittington & Bogacz (2017), Fig. 4B, Eqs. 2.18–2.19, 3.2–3.3（図は該当パネルを抜粋） © 2017 Massachusetts Institute of Technology. 図のライセンス：CC BY 3.0 大学院共通授業科目『「脳とAI」入門』｜第3回 A3 # Page. 40 ![Page Image](https://bcdn.docswell.com/page/8EDG9WYYEG.jpg) APPENDIX A4｜SELF-PREDICTING CIRCUIT 戻ってくる入力を、局所回路が予測する 細胞・回路モデル：Sacramento et al.（2018） 上位側の細胞 頂端樹状突起 自分たちの活動から、 戻る入力を予測する。 戻ってくる入力 釣り合う 予測に見合う抑制 細胞体 局所の抑制性細胞 基底樹状突起 入力 上位側へ 局所回路が、 予測に見合う抑制を作る。 予測どおりなら、 二つの寄与が釣り合う。 戻ってくる入力と局所の抑制を、頂端樹状突起で組み合わせる。 Sacramento et al. (2018), Fig. 1Aを参照した模式図 大学院共通授業科目『「脳とAI」入門』｜第3回 A4 # Page. 41 ![Page Image](https://bcdn.docswell.com/page/V7P3Z962J8.jpg) APPENDIX A5｜DENDRITIC LEARNING SIGNAL 予測で打ち消せない差を、学習に使う 細胞・回路モデル：Sacramento et al.（2018） 上位側の細胞 頂端樹状突起 正解の情報 変化したフィードバック 予測に見合う抑制 差の影響 細胞体 局所の抑制性細胞 基底樹状突起 入力 入力側の結合を更新 ① 正解の情報で、 上位の活動が変わる。 上位側へ ② 戻る入力が変わり、 抑制と釣り合わなくなる。 ③ 差が細胞体活動に影響し、 入力側の結合更新へ。 局所回路と樹状突起の働きから、条件のもとでBPに近い学習を実現できる。 Sacramento et al. (2018), Fig. 1・Eq. 7を参照した模式図 大学院共通授業科目『「脳とAI」入門』｜第3回 A5