凸優化 是什麼?
Convex Optimization — 凸優化 的完整解釋
凸優化是一種數學優化方法,旨在尋找凸函數在凸集合上的最小值。其優點是局部最小值即為全局最小值,易於求解。
容易混淆
凸優化 vs 非凸優化 vs 一般最小化
凸優化:地形單純,局部最小值就是全局最小值
非凸優化:地形複雜,可能有很多假谷底
一般最小化:只是一個總稱,不一定保證好解
最關鍵的區別:凸優化能保證找到的局部解就是全局解。
記住這句就好
地形是凸的,找到小谷底就放心。
實際案例
廣告預算分配
前:想把預算切到最好,但搜尋空間太亂
後:把問題寫成凸優化,較容易穩定找到最佳配置
模型訓練中的正則化
前:損失函數不好調,參數更新常卡住
後:加入凸形式的目標和約束,讓求解更穩定
算法與應用
凸優化常搭配梯度下降、目標函數、正則化與損失函數一起看
很多線性模型、支援向量機和資源配置問題,都會受惠於凸結構
它的價值在於可解性和可分析性,讓工程上比較知道會收斂到哪裡
情境判斷
Q1(直覺題): 如果一個問題是凸的,是不是通常比較好解?
→ 是,通常更容易穩定找到全局最優。
Q2(判斷題): 只要用了梯度下降,就代表你在做凸優化嗎?
→ 不一定。梯度下降可以用在凸問題,也可以用在非凸問題。
相關術語
常見問題
凸優化一定有解析解嗎?
不一定,但通常比較容易數值求解。
機器學習都屬於凸優化嗎?
不是,很多深度學習問題其實是非凸的。
為什麼凸優化這麼常見?
因為它穩定、可證明、可預測,工程上很實用。