微調 是什麼?
Fine-tuning — 微調 的完整解釋
微調是在預訓練模型基礎上,以少量特定領域資料繼續訓練,使通用模型適應特定任務需求,提升性能。
容易混淆
微調 vs 從頭訓練 從頭訓練是重新學一整套能力。 微調是站在既有模型上,往目標任務再調整。
微調 vs 提示工程 提示工程是用文字引導模型。 微調是真的改模型參數,影響更深也更持久。
記住這句就好
不是重練一個新模型,而是把舊模型調得更合用。
實際案例
客服機器人 先有一個通用語言模型,再用公司對話資料微調,回答就會更貼近品牌說法。
醫療文本分類 先用通用模型,再用醫療標註資料微調,專業名詞與分類邏輯通常會更準。
算法與應用
微調會沿用預訓練模型的表示能力,再用較小資料集更新部分或全部權重。 在大型語言模型、影像模型和多模態模型裡,微調都是很常見的落地方法。
微調 在 iPAS 考試中的重點
根據歷年統計,微調 相關題目 平均佔 AI 技術類考題 2%, 屬於未分類考範圍。
常見出題方向:預訓練模型與遷移學習(40%)、深度學習模型訓練技巧(35%)、模型適應與任務優化(25%)。
相關術語
相關術語
常與之比較
常見問題
微調會不會把原本能力弄壞?
有可能,若資料太窄或訓練方式不當,模型可能偏掉。
一定要全部參數都更新嗎?
不一定,實務上也常只更新部分層或參數高效率方法。
微調只適合語言模型嗎?
不只,影像、語音和推薦模型也常微調。
微調就是少樣本學習嗎?
不是,但兩者常搭配使用,少樣本提供少量資料,微調負責把模型往目標拉。
資料來源
- iPAS AI 應用規劃師評鑑內容範圍參考(115.02) — 經濟部產業人才能力鑑定