Skip to content

Machine Learning › 可解釋性與診斷

可解釋性與診斷 (Interpretability and Diagnostics) ​

兩個常被混在一起的問題:模型依據什麼做預測?(可解釋性)與模型整體行為是否可信、沒有藏著資料或流程問題?(診斷)。

筆記 ​

筆記內容回答的問題
模型可解釋性係數、permutation importance、PDP / ICE、SHAP哪些特徵影響預測?怎麼影響?
模型診斷殘差、錯誤切片、校準、分布偏移模型在學合理的訊號嗎?哪裡會壞?

統計模型的係數推論與迴歸診斷見 statsmodels、模型假設與診斷。

閱讀提醒 ​

提醒說明
可解釋性 ≠ 因果重要特徵不代表改變它就會改變結果,見 干擾
診斷不只看模型也要看資料與前處理流程
結果無法解釋時先查資料切分、欄位定義與 洩漏,再考慮換演算法