資料漂移 是什麼?

Data Drift — 資料漂移 的完整解釋

資料漂移是指模型上線後,輸入資料的分布與訓練資料不同,進而造成模型預測效能降低的現象

容易混淆

overfitting vs 模型過擬合:模型過擬合像學生死記硬背課本,考卷稍微變形就不會;資料漂移則像考卷內容完全換了,學生學的知識根本用不上,是外部環境變化導致的問題。 常見混淆:資料漂移 vs overfitting 過擬合是模型背太熟,資料漂移是外部資料分布變了。

記住這句就好

資料分布變了,模型就可能跟著失準。

實際案例

電商推薦 節日、季節和商品組合一變,使用者行為分布也跟著變。 風控模型 詐欺手法更新後,原本的特徵可能不再有效。

算法與應用

  1. 資料漂移看的是輸入分布變化,不一定等於模型本身壞掉。
  2. 常用指標有 KS 檢定、KL 散度和 Wasserstein 距離。
  3. 發現漂移後,常見做法是重新訓練、調整特徵或改監控策略。

情境判斷

Q1:模型訓練時很好,上線後突然變差,先懷疑什麼? → 先懷疑資料漂移或資料管線出了變化。 Q2:如果只是模型自己參數不穩,還算資料漂移嗎? → 不算,那比較像模型問題;漂移重點是輸入資料分布變了。

相關術語

常見問題

如何量化資料漂移的程度?

量化資料漂移程度可以使用多種統計指標,例如 Kolmogorov-Smirnov 檢驗的 D 值、KL 散度、Wasserstein 距離等。這些指標可以衡量訓練資料和實際應用資料分布之間的差異程度,數值越大表示漂移程度越高。選擇哪種指標取決於資料的類型和分布特性。

有哪些常用的資料漂移檢測工具?

常用的資料漂移檢測工具包括 TensorFlow Data Validation (TFDV)、Evidently AI、NannyML 等。這些工具可以自動計算資料的統計特性,並檢測是否存在資料漂移。它們通常提供可視化界面,方便使用者分析和理解資料漂移的原因。

如何有效地處理資料漂移?

處理資料漂移的方法包括重新訓練模型、調整模型參數、使用線上學習算法、以及進行資料增強等。重新訓練模型是常見的方法,但需要注意避免過擬合。線上學習算法可以不斷學習新的資料,以適應資料分布的變化。資料增強可以通過合成新的資料來擴充訓練集,以減少資料漂移的影響。