Skip to content

Machine Learning › 套件 › scikit-learn

scikit-learn 速查 ​

scikit-learn 在這個筆記本中是「實作層」:概念放在各主題筆記,這裡只整理 API 慣例與「想做 X → 用哪個」。本筆記本的程式碼以 sklearn 1.9 驗證。

核心 API ​

所有物件都遵循同一套介面:

方法誰有作用
fit(X, y)所有估計器從訓練資料學習參數
transform(X)轉換器(scaler、encoder、PCA)套用學到的轉換
fit_transform(X)轉換器等於 fit + transform(只能用在訓練資料)
predict(X)預測器類別或數值
predict_proba(X)多數分類器各類別機率
decision_function(X)SVM、線性模型連續分數(可算 AUC)
score(X, y)預測器分類:accuracy;迴歸:R²
get_params() / set_params()全部讀寫超參數
慣例說明
X 是 2D、y 是 1D單一特徵要 x.reshape(-1, 1) 或 df[["col"]]
結尾底線 coef_、classes_fit 之後才存在的屬性
random_state控制隨機性,讓結果可重現
n_jobs=-1用所有 CPU 核心平行
scorer 越大越好誤差類指標要用 neg_ 版本:"neg_root_mean_squared_error"
set_output(transform="pandas")讓轉換器輸出 DataFrame(保留欄位名)

想做 X → 用哪個 ​

任務工具筆記
切 train / testtrain_test_split(stratify=y)Train-Test Split
交叉驗證cross_val_score、cross_validate、StratifiedKFold、GroupKFold、TimeSeriesSplit交叉驗證
串起前處理與模型Pipeline、make_pipeline、ColumnTransformerPipeline
調參GridSearchCV、RandomizedSearchCV、HalvingRandomSearchCV超參數調整
補值SimpleImputer、KNNImputer、IterativeImputer補值
類別編碼OneHotEncoder、OrdinalEncoder、TargetEncoder類別編碼
縮放StandardScaler、RobustScaler、MinMaxScaler特徵縮放
特徵選擇SelectKBest、SelectFromModel、RFECV、SequentialFeatureSelector特徵選擇
BaselineDummyClassifier、DummyRegressorBaseline
調閾值TunedThresholdClassifierCV、FixedThresholdClassifier閾值與校準
機率校準CalibratedClassifierCV、CalibrationDisplay同上
評估圖RocCurveDisplay、PrecisionRecallDisplay、ConfusionMatrixDisplay、PredictionErrorDisplay模型評估
學習 / 驗證曲線LearningCurveDisplay、ValidationCurveDisplay過擬合與欠擬合
解釋模型permutation_importance、PartialDependenceDisplay可解釋性
分群KMeans、AgglomerativeClustering、HDBSCAN、GaussianMixture分群
降維PCA、TSNE、NMF降維
異常偵測IsolationForest、LocalOutlierFactor異常偵測
存模型joblib.dump(pipeline, "model.joblib")Pipeline

近幾版的重要變動 ​

讀舊教學時常遇到的 API 差異:

舊寫法新寫法版本
mean_squared_error(..., squared=False)root_mean_squared_error1.4 deprecated,之後移除
base_estimator=(Bagging、AdaBoost)estimator=1.2 改名,1.4 移除舊名
AdaBoostClassifier(algorithm="SAMME.R")刪掉 algorithmSAMME.R 1.6 移除
OneHotEncoder(sparse=False)sparse_output=False1.2 改名
LogisticRegression(penalty="l1")l1_ratio=11.8 deprecated
LogisticRegression(multi_class=...)刪掉(預設 multinomial)已移除
SVC(probability=True)CalibratedClassifierCV(SVC(), ensemble=False)1.9 deprecated
TSNE(n_iter=...)max_iter=1.5 改名
KMeans 的 n_init=10預設 "auto"1.4
TargetEncoder(shuffle=, random_state=)傳入 cv=KFold(...)1.9 deprecated

原則:任何會從訓練資料學東西的步驟都放進 Pipeline / ColumnTransformer,交叉驗證與上線時才不會洩漏或不一致。