顯著性地圖 是什麼?
Saliency Map — 顯著性地圖 的完整解釋
顯著性地圖是一種圖像處理技術,用於突出顯示圖像中最引人注目的區域。它通過計算每個像素的顯著性得分來實現,得分越高表示該區域越顯著。
容易混淆
顯著性地圖 vs 注意力視覺化
顯著性地圖多半看輸入對輸出的影響 注意力視覺化看的是注意力權重分布 最關鍵的區別是梯度影響還是注意力分配。
顯著性地圖 vs 分割
顯著性地圖只標出重要區域 分割要把物件邊界完整切出來 最關鍵的區別是熱區提示和精準輪廓。
記住這句就好
熱得最明顯的地方,就是模型最在意的地方。
實際案例
醫療影像 醫師可以看模型是不是把注意力放在病灶附近,而不是放在影像角落。
自動駕駛 如果模型在辨識交通號誌時把注意力放到不相關的背景,就代表它可能學歪了。
算法與應用
顯著性地圖常來自梯度,代表輸入微小變動對輸出有多大影響。 Grad-CAM 是常見做法之一,會用卷積層特徵做熱區視覺化。 它適合做輔助解釋,但不代表就是模型真正的思考過程。
情境判斷
Q1(直覺題):如果你想看模型在圖片上最在意哪裡,通常會看什麼?
→ 通常會看顯著性地圖或類似熱區圖。
Q2(判斷題):顯著性地圖看起來很亮,就代表模型一定判斷正確嗎?
→ 不一定。熱區只是解釋線索,不等於真正的因果證據。
相關術語
常見問題
顯著性地圖的計算複雜嗎?
A:要看方法,簡單版可以很快,基於深度模型的版本通常更吃算力。
顯著性地圖可以用在影片嗎?
A:可以,通常是逐幀分析或把多幀結果串起來看。
怎麼評估顯著性地圖品質?
A:常會看 AUC、NSS、CC,或搭配人工檢視。