Skip to content

Machine Learning › 模型評估 › 迴歸指標

迴歸指標:MSE、RMSE 與其他 (Regression Metrics) ​

連續目標的預測誤差指標。MSE / RMSE 最常用,但它們對大誤差特別敏感;選指標要看「哪種錯誤代價高」。它們同時也是訓練損失,兩者的區別見 損失函數。

指標比較 ​

指標公式單位特性何時用
MSE1n∑(yi−y^i)2平方單位大誤差懲罰最重;對離群值敏感最佳化、數學推導
RMSEMSE同 y同 MSE,但可直接解讀報告的預設選擇
MAE1n∑|yi−y^i|同 y穩健;每單位誤差同等重要有離群值、誤差成本線性
R²1−SSESST無單位相對於「預測平均數」的改善比例跨資料集比較;可為負
MAPE1n∑|yi−y^iyi|%相對誤差y 遠離 0 的情況(銷售);y 接近 0 時爆炸
RMSLERMSE of log⁡(1+y)—懲罰比例誤差、低估比高估重右偏目標(價格、計數)

RMSE ≥ MAE 永遠成立;兩者差距越大,代表誤差中有越多大誤差。

python
import numpy as np
from sklearn.metrics import (mean_squared_error, root_mean_squared_error, mean_absolute_error,
                             r2_score, mean_absolute_percentage_error)

y_true = np.array([3, -0.5, 2, 7])
y_pred = np.array([2.5, 0.0, 2, 8])

mean_squared_error(y_true, y_pred)        # 0.375
root_mean_squared_error(y_true, y_pred)   # 0.612   sklearn ≥ 1.4
mean_absolute_error(y_true, y_pred)       # 0.5
r2_score(y_true, y_pred)                  # 0.949

# CV / GridSearchCV 的 scoring 字串(誤差類取負號,越大越好)
scoring = "neg_root_mean_squared_error"   # 也有 neg_mean_absolute_error、r2

舊寫法 mean_squared_error(..., squared=False) 在 sklearn 1.4 deprecated、1.6 移除,改用 root_mean_squared_error。

解讀 ​

情境判讀方式
RMSE 本身和 y 的 SD、和 baseline(預測平均數)的 RMSE 比;單看數字沒有意義
R² = 0等於預測平均數;測試集 R² 可以為負(比預測平均還差)
訓練 R² 很高、測試 R² 低過擬合
只看單一數字會漏掉「高值區系統性低估」這類問題 → 畫預測 vs 實際、殘差圖,見 模型診斷

diabetes 資料的例子:預測平均數的 RMSE 71.4,Ridge 55.7、MAE 44.7、R² 0.39,見 Baseline 與錯誤分析。

統計迴歸的 R²、調整後 R² 與係數推論見 迴歸分析;這裡的重點是樣本外預測誤差。