遷移學習 是什麼?
Transfer Learning — 遷移學習 的完整解釋
遷移學習是將已在大數據集習得的知識,轉移應用至小數據集的新任務,藉此加速模型訓練
容易混淆
遷移學習 vs 微調 遷移學習是整體策略 微調是常見做法之一 最關鍵的區別:大方向和具體手段
遷移學習 vs 多任務學習 遷移學習是先學 A 再用到 B 多任務學習是 A 和 B 一起學 最關鍵的區別:順序和並行
遷移學習 vs 從零訓練 遷移學習先借現成能力 從零訓練完全自己學 最關鍵的區別:有沒有預先學過
記住這句就好
先借現成能力,再把新任務調到位。
實際案例
醫療影像 用大規模通用影像預訓練模型,再拿少量 X 光資料調整,通常比從零開始更快收斂
客服分類 先用通用語言模型,再用公司自己的客服對話微調,能更快學會公司內部用語
算法與應用
| 預訓練模型 | 先在大資料上學通用特徵 | 這是起點 | | 微調 | 用新任務資料再訓練 | 把通用能力轉成專用能力 | | 凍結層 | 保留部分參數不動 | 資料少時很常見 | | 負遷移 | 舊知識反而干擾新任務 | 領域差太遠時要小心 |
情境判斷
Q1(直覺題):你手上只有幾百張標註圖片,還適合從零訓練嗎? → 通常不適合,遷移學習會更實際。
Q2(判斷題):原任務和新任務差很遠,遷移學習一定有幫助嗎? → 不一定,差距太大時可能出現負遷移,這時要更仔細挑模型。
遷移學習 在 iPAS 考試中的重點
根據歷年統計,遷移學習 相關題目 平均佔 AI 技術類考題 2%, 屬於未分類考範圍。
常見出題方向:遷移學習的演算法原理與效益(40%)、預訓練模型與微調策略的技術細節(35%)、遷移學習的應用場景與實務(25%)。
相關術語
常見問題
遷移學習一定要微調全部參數嗎?
不一定,有時只改最後幾層就夠。
它只適合影像嗎?
不只,文字、語音、推薦系統都很常用。
資料很少時一定要用嗎?
多數情況值得先試,但還是要看原始任務和目標任務是否接近。
資料來源
- iPAS AI 應用規劃師評鑑內容範圍參考(115.02) — 經濟部產業人才能力鑑定