外觀
Machine Learning › 上線與維運 › MLOps 概觀
MLOps 概觀 (MLOps Overview)
MLOps 把模型當成持續運作的產品,而不是一次性的 notebook 結果。困難的往往不是訓練模型,而是穩定部署、持續監控、安全地重訓與回滾,並讓資料、程式碼、模型版本彼此對得上。
典型流程
text
資料與特徵版本化 → 可重現的訓練 pipeline → 評估與審核 → 打包與部署
↑ ↓
觸發重訓或人工介入 ←────────── 線上監控與告警 ←──────────────┘MLOps 不只是把 DevOps 搬過來
| DevOps(一般軟體) | MLOps 多出來的問題 |
|---|---|
| 程式碼不變,行為就不變 | 資料分布改變,模型品質就退化 |
| 測試可以立即判斷對錯 | 上線後不一定馬上拿得到真實標籤(貸款違約要等一年) |
| 版本 = 程式碼版本 | 版本 = 程式碼 + 資料 + 模型 + 超參數 + 環境 |
| 上線後失敗通常會報錯 | 模型退化通常不會報錯,只是預測越來越差 |
核心能力
| 能力 | 重點 | 工具例 |
|---|---|---|
| 可重現性 | 資料、參數、程式碼、環境都可追溯 | Git、DVC、MLflow、conda / Docker |
| 部署 | batch、即時、串流推論都能穩定執行 | FastAPI、批次排程、模型服務平台 |
| 監控 | 資料漂移、效能退化、系統錯誤 | 見 部署與監控 |
| 治理 | 誰批准上線、誰負責回滾與重訓 | Model registry、審核紀錄 |
成熟度(簡化)
| 階段 | 特徵 |
|---|---|
| 手動 | notebook 訓練、手動複製模型檔上線、沒有監控 |
| 自動化訓練 | 訓練 pipeline 可一鍵重跑,實驗有紀錄 |
| 自動化部署與監控 | CI/CD 部署、上線監控與告警、模型註冊 |
| 持續訓練 | 監控觸發自動重訓、驗證、上線(仍保留人工審核關卡) |
不需要一開始就做到最後一階。小團隊最有價值的第一步通常是:實驗紀錄 + 前處理與模型一起存 + 基本的輸入資料監控。
生醫 / 研究情境
| 需求 | 說明 |
|---|---|
| 可重現性是硬需求 | 論文審查、法規(醫療器材軟體)要求能重現結果 |
| 資料版本 | 參考基因組版本、註解資料庫版本、樣本納入條件都要記錄 |
| 漂移來源 | 換定序平台、試劑批次、檢驗儀器、臨床指引更新 |
| 隱私 | 病人資料不能隨意複製到實驗追蹤系統;只記錄必要的中繼資料 |
常見誤區
| 誤區 | 事實 |
|---|---|
| 有 CI/CD 就等於有 MLOps | 還缺資料版本、模型監控、重訓機制 |
| 只版本化模型 | 沒有資料與特徵版本,就無法重現 |
| 線上監控只看延遲 | 還要看資料漂移與預測品質 |
| 有 MLflow 就完成部署與監控 | MLflow 主要管追蹤與版本,監控要另外建 |
無法穩定重現訓練結果、追蹤上線版本、監控退化並安全回滾,就還沒有真正建立 MLOps。相關:模型生命週期。