Skip to content

Machine Learning › 上線與維運 › MLOps 概觀

MLOps 概觀 (MLOps Overview) ​

MLOps 把模型當成持續運作的產品,而不是一次性的 notebook 結果。困難的往往不是訓練模型,而是穩定部署、持續監控、安全地重訓與回滾,並讓資料、程式碼、模型版本彼此對得上。

典型流程 ​

text
資料與特徵版本化 → 可重現的訓練 pipeline → 評估與審核 → 打包與部署
        ↑                                                      ↓
   觸發重訓或人工介入 ←────────── 線上監控與告警 ←──────────────┘

MLOps 不只是把 DevOps 搬過來 ​

DevOps(一般軟體)MLOps 多出來的問題
程式碼不變,行為就不變資料分布改變,模型品質就退化
測試可以立即判斷對錯上線後不一定馬上拿得到真實標籤(貸款違約要等一年)
版本 = 程式碼版本版本 = 程式碼 + 資料 + 模型 + 超參數 + 環境
上線後失敗通常會報錯模型退化通常不會報錯,只是預測越來越差

核心能力 ​

能力重點工具例
可重現性資料、參數、程式碼、環境都可追溯Git、DVC、MLflow、conda / Docker
部署batch、即時、串流推論都能穩定執行FastAPI、批次排程、模型服務平台
監控資料漂移、效能退化、系統錯誤見 部署與監控
治理誰批准上線、誰負責回滾與重訓Model registry、審核紀錄

成熟度(簡化) ​

階段特徵
手動notebook 訓練、手動複製模型檔上線、沒有監控
自動化訓練訓練 pipeline 可一鍵重跑,實驗有紀錄
自動化部署與監控CI/CD 部署、上線監控與告警、模型註冊
持續訓練監控觸發自動重訓、驗證、上線(仍保留人工審核關卡)

不需要一開始就做到最後一階。小團隊最有價值的第一步通常是:實驗紀錄 + 前處理與模型一起存 + 基本的輸入資料監控。

生醫 / 研究情境 ​

需求說明
可重現性是硬需求論文審查、法規(醫療器材軟體)要求能重現結果
資料版本參考基因組版本、註解資料庫版本、樣本納入條件都要記錄
漂移來源換定序平台、試劑批次、檢驗儀器、臨床指引更新
隱私病人資料不能隨意複製到實驗追蹤系統;只記錄必要的中繼資料

常見誤區 ​

誤區事實
有 CI/CD 就等於有 MLOps還缺資料版本、模型監控、重訓機制
只版本化模型沒有資料與特徵版本,就無法重現
線上監控只看延遲還要看資料漂移與預測品質
有 MLflow 就完成部署與監控MLflow 主要管追蹤與版本,監控要另外建

無法穩定重現訓練結果、追蹤上線版本、監控退化並安全回滾,就還沒有真正建立 MLOps。相關:模型生命週期。