超參數 是什麼?
Hyperparameter — 超參數 的完整解釋
超參數是機器學習模型訓練前,由人為設定且影響模型學習效果的參數,例如學習率或網路層數
容易混淆
超參數 vs 模型參數 模型參數是訓練過程中學出來的 超參數是人先設定的 最關鍵的區別是學出來,還是先選好
超參數 vs 超參數調校 超參數是那個設定本身 超參數調校是找最適合設定的過程 最關鍵的區別是值,還是找值的方法
記住這句就好
先設定規則,模型才開始學。
實際案例
學習率選擇 學習率太大會震盪,太小會很慢,這就是超參數會直接影響訓練品質的典型例子。
樹模型深度 決策樹或梯度提升法的樹深,會影響模型複雜度和過擬合風險。
算法與應用
超參數決定學習方式,不是直接學到的內容。 它們常要靠驗證資料集和搜尋方法來找,而不是憑直覺一次定死。
情境判斷
Q1: 學習率、批次大小、樹深,哪一種比較像超參數? → 這些都屬於超參數,因為它們是人先設定的訓練條件。
Q2: 模型訓練完後自己得到的權重,算不算超參數? → 不算,那是模型參數,不是超參數。
超參數 在 iPAS 考試中的重點
根據歷年統計,超參數 相關題目 平均佔 AI 技術類考題 2%, 屬於未分類考範圍。
常見出題方向:模型訓練與優化原理(40%)、超參數調校的演算法與方法(35%)、超參數對模型效能的影響分析(25%)。
相關術語
常見問題
常見超參數有哪些?
學習率、批次大小、層數、樹深、正則化強度都很常見。
超參數為什麼重要?
因為它會直接影響模型能不能學好、會不會過擬合。
超參數是固定不變的嗎?
不是,通常要根據資料和任務調整。
資料來源
- iPAS AI 應用規劃師評鑑內容範圍參考(115.02) — 經濟部產業人才能力鑑定