遷移學習(Transfer Learning)是什麼?

遷移學習是將已在大數據集習得的知識,轉移應用至小數據集的新任務,藉此加速模型訓練|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

遷移學習(Transfer Learning)是什麼? iPAS 機器學習遷移學習

你有沒有發現,會一種樂器的人,學第二種通常更快? 你可以把遷移學習想成「把已經學會的能力搬去新任務用」 模型不用從零開始,而是先借用舊任務學到的特徵,再針對新資料微調 這在資料少、算力有限時特別有用

你可以把它想成一個把抽象概念拉回日常判斷的提示,先知道它解決什麼問題,再看技術細節。

容易混淆

遷移學習 vs 微調 遷移學習是整體策略 微調是常見做法之一 最關鍵的區別:大方向和具體手段

遷移學習 vs 多任務學習 遷移學習是先學 A 再用到 B 多任務學習是 A 和 B 一起學 最關鍵的區別:順序和並行

遷移學習 vs 從零訓練 遷移學習先借現成能力 從零訓練完全自己學 最關鍵的區別:有沒有預先學過

記住這句就好

先借現成能力,再把新任務調到位。

實際案例

醫療影像 用大規模通用影像預訓練模型,再拿少量 X 光資料調整,通常比從零開始更快收斂

客服分類 先用通用語言模型,再用公司自己的客服對話微調,能更快學會公司內部用語

算法與應用

| 預訓練模型 | 先在大資料上學通用特徵 | 這是起點 | | 微調 | 用新任務資料再訓練 | 把通用能力轉成專用能力 | | 凍結層 | 保留部分參數不動 | 資料少時很常見 | | 負遷移 | 舊知識反而干擾新任務 | 領域差太遠時要小心 |

情境判斷

Q1(直覺題): 你手上只有幾百張標註圖片,還適合從零訓練嗎?

通常不適合,遷移學習會更實際。

Q2(判斷題): 原任務和新任務差很遠,遷移學習一定有幫助嗎?

不一定,差距太大時可能出現負遷移,這時要更仔細挑模型。

常見問題

遷移學習一定要微調全部參數嗎?

不一定,有時只改最後幾層就夠。

它只適合影像嗎?

不只,文字、語音、推薦系統都很常用。

資料很少時一定要用嗎?

多數情況值得先試,但還是要看原始任務和目標任務是否接近。

iPAS 考試出題分析

根據歷年 iPAS AI 應用規劃師考古題統計,遷移學習 相關題目 平均佔 AI 技術類考題 2%, 屬於未分類考範圍。

常見出題方向包含:遷移學習的演算法原理與效益(佔 40%)、預訓練模型與微調策略的技術細節(佔 35%)、遷移學習的應用場景與實務(佔 25%)。

範例考題

某 AI 科技公司在工業缺陷檢測領域已有成熟的辨識產品經驗。現欲與新客戶合作開發一項類似產品的表面瑕疵檢測系統,但因新產品量產不久,標註樣本極為稀少且專家標註成本高昂。在不大幅增加標註預算的前提下,利用該公司既有的技術優勢來提升模型表現?

  • A. 增加模型參數規模,使模型具備更強表達能力
  • B. 透過資料增強(Data Augmentation)擴展影像變化,以提升模型穩定性
  • C. 重新蒐集大量影像並進行完整人工標註
  • D. 採用遷移學習(Transfer Learning),利用既有預訓練模型進行調整 ✓ 正確答案

解析:

公司在工業缺陷檢測領域有成熟經驗,可利用既有的預訓練模型透過遷移學習(Transfer Learning)轉移到新產品的瑕疵檢測任務。這樣只需少量標註資料就能獲得良好效果,不需大幅增加標註預算。

立即測驗

想測試你對 遷移學習 的掌握程度? 開始模擬考