交差検証法
1.5K Views
July 22, 23
スライド概要
研究室で開催した統計ゼミ2022の資料です。この資料では私が担当した交差検証法について説明しています。
愛知工業大学でマルチエージェントシステムや空間分析を活用した減災に関する研究をしています。
関連スライド
主成分分析
Keisuke ANDO
3.5K
統計的仮説検定
Keisuke ANDO
3.4K
時系列分析入門
Keisuke ANDO
1.5K
各ページのテキスト
2022-09 Cross-Validation
2 Q.
3 (mpg)
Auto mpg cylinders displacement horsepower weight acceleration year origin name 4
6
7 = 𝛽0 + 𝛽1 × +𝜖 2 = 𝛽0 + 𝛽1 × + 𝛽2 × 2 +𝜖 = 𝛽0 + 𝛽1 × + 𝛽2 × 2 + ⋯ + 𝛽5 × 5 +𝜖
8 2 5
9 𝑦 = 𝛽0 + 𝛽1 𝑥 + 𝛽2 2 𝑥 + ⋯ + 𝛽𝑛 𝑛 𝑥 𝑋𝑖 = 𝑥 𝑖 𝑦 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝑛 𝑋𝑛 + 𝜖 +𝜖
10
11 2 2
12 Occam’s razor : : Information criterion AIC BIC : Mallows's 𝐶𝑝
13 Ⅰ Auto 1 = 𝛽0 + 𝛽1 × + 𝛽2 × 2 = 𝛽0 + 𝛽1 × + 𝛽2 × 3 = 𝛽0 + 𝛽1 × + 𝛽2 × 2 +𝜖 +𝜖 + 𝛽3 × × +𝜖
15 ≠
16 𝑓1 (𝑥) 𝑓2 (𝑥) 𝑓3 (𝑥)
17 1 231 2 𝑛 72 375 training data test data
MSE Mean Squared Error 18 𝑛 1 𝑀𝑆𝐸 = 𝑦𝑖 − 𝑦ෝ𝑖 𝑛 2 𝑖=1 𝑦𝑖 𝑦ෝ𝑖 𝑛
19 𝑹𝟐 RMSE MSE MSE MSE MAE
20 MAE
21 5 MSE MSE
LOOCV 22 1 1 2 3 𝑛 1 2 3 𝑛 𝑀𝑆𝐸1 1 2 3 𝑛 𝑀𝑆𝐸2 1 2 3 𝑛 𝑀𝑆𝐸3 1 2 3 𝑛 𝑀𝑆𝐸𝑛 𝑀𝑆𝐸
LOOCV 23 LOOCV 1
R 24 R Package LOOCV CRAN R Package {caret} {tidymodels} 200 tidyverse
LOOCV RMSE 25 MAE caret train
26 𝑘𝑘 𝟏/𝒌 𝑘=5 1 2 𝑘 = 10 3 𝑛 𝑘(=4) 231 72 375 𝑀𝑆𝐸1 231 72 375 𝑀𝑆𝐸2 231 72 375 𝑀𝑆𝐸3 231 72 375 𝑀𝑆𝐸4 = 𝑀𝑆𝐸𝑘 𝑀𝑆𝐸
27 𝑘- LOOCV
28 𝑘LOOCV trControl 𝑘-
29 Ⅱ Auto 1 2 Carseat
30