你有沒有試過調參時,把每一種組合都排出來一個個試?
你可以把網格搜尋想成把所有候選設定按格子排列後逐一測試。 它很直觀,結果也容易比較,但參數一多,時間就會暴增。
你可以把它想成一個把抽象概念拉回日常判斷的提示,先知道它解決什麼問題,再看技術細節。
容易混淆
網格搜尋 vs 隨機搜尋 網格搜尋把每個組合都列出來 隨機搜尋只抽部分組合試 最關鍵的區別是全掃,還是抽樣試
網格搜尋 vs 超參數調校 超參數調校是大目標 網格搜尋只是其中一種方法 最關鍵的區別是任務,還是手段
記住這句就好
一格一格試完。
實際案例
小型分類器調參 如果只有兩三個超參數、每個可選值也不多,網格搜尋很適合拿來快速比較。
教學或實驗 在課堂上示範調參流程時,網格搜尋很容易讓人看懂每個設定怎麼影響結果。
算法與應用
它的成本會隨參數維度快速膨脹,所以不是所有問題都適合。 如果空間很大,隨機搜尋或貝氏最佳化通常更省。
情境判斷
Q1: 你只有兩個參數,每個各三個值,想完整比較,會用什麼? → 網格搜尋很適合,因為組合不多。
Q2: 你有六個參數,每個都有很多候選值,還會優先用網格搜尋嗎? → 通常不會,成本太高,會改看隨機搜尋或貝氏最佳化。
常見問題
網格搜尋一定最準嗎?
不一定,它只是比較完整,不代表最有效率。
為什麼參數一多就不適合?
因為組合數會乘上去,很快爆炸。
能和交叉驗證一起用嗎?
可以,而且很常這樣搭配。