遷移學習 是什麼?

Transfer Learning — 遷移學習 的完整解釋

遷移學習是將已在大數據集習得的知識,轉移應用至小數據集的新任務,藉此加速模型訓練

容易混淆

遷移學習 vs 微調 遷移學習是整體策略 微調是常見做法之一 最關鍵的區別:大方向和具體手段

遷移學習 vs 多任務學習 遷移學習是先學 A 再用到 B 多任務學習是 A 和 B 一起學 最關鍵的區別:順序和並行

遷移學習 vs 從零訓練 遷移學習先借現成能力 從零訓練完全自己學 最關鍵的區別:有沒有預先學過

記住這句就好

先借現成能力,再把新任務調到位。

實際案例

醫療影像 用大規模通用影像預訓練模型,再拿少量 X 光資料調整,通常比從零開始更快收斂

客服分類 先用通用語言模型,再用公司自己的客服對話微調,能更快學會公司內部用語

算法與應用

| 預訓練模型 | 先在大資料上學通用特徵 | 這是起點 | | 微調 | 用新任務資料再訓練 | 把通用能力轉成專用能力 | | 凍結層 | 保留部分參數不動 | 資料少時很常見 | | 負遷移 | 舊知識反而干擾新任務 | 領域差太遠時要小心 |

情境判斷

Q1(直覺題):你手上只有幾百張標註圖片,還適合從零訓練嗎? → 通常不適合,遷移學習會更實際。

Q2(判斷題):原任務和新任務差很遠,遷移學習一定有幫助嗎? → 不一定,差距太大時可能出現負遷移,這時要更仔細挑模型。

遷移學習 在 iPAS 考試中的重點

根據歷年統計,遷移學習 相關題目 平均佔 AI 技術類考題 2%, 屬於未分類考範圍。

常見出題方向:遷移學習的演算法原理與效益(40%)、預訓練模型與微調策略的技術細節(35%)、遷移學習的應用場景與實務(25%)。

相關術語

常見問題

遷移學習一定要微調全部參數嗎?

不一定,有時只改最後幾層就夠。

它只適合影像嗎?

不只,文字、語音、推薦系統都很常用。

資料很少時一定要用嗎?

多數情況值得先試,但還是要看原始任務和目標任務是否接近。

資料來源

← 回到 遷移學習 快查頁

測驗你對 遷移學習 的理解

透過模擬考系統檢驗學習成果

開始測驗