解析：
顯著性圖（Saliency Map）透過計算模型輸出對輸入的梯度，標示出輸入資料中對特定預測結果影響最大的區域。在影像任務中，它能視覺化顯示模型「關注」了圖像的哪些部分。
你有沒有想過，模型看圖片時，到底是看哪一塊才做出判斷？
你可以把顯著性地圖想成模型在圖片上畫的熱區圖，告訴你它比較注意哪裡。
它重要是因為可解釋性常需要知道模型依據什麼做決策，而不是只知道結果。
你可以把它想成一個把抽象概念拉回日常判斷的提示，先知道它解決什麼問題，再看技術細節。
容易混淆
顯著性地圖 vs 注意力視覺化
顯著性地圖多半看輸入對輸出的影響 注意力視覺化看的是注意力權重分布 最關鍵的區別是梯度影響還是注意力分配。
顯著性地圖 vs 分割
顯著性地圖只標出重要區域 分割要把物件邊界完整切出來 最關鍵的區別是熱區提示和精準輪廓。
記住這句就好
熱得最明顯的地方，就是模型最在意的地方。
實際案例
醫療影像 醫師可以看模型是不是把注意力放在病灶附近，而不是放在影像角落。
自動駕駛 如果模型在辨識交通號誌時把注意力放到不相關的背景，就代表它可能學歪了。
算法與應用
顯著性地圖常來自梯度，代表輸入微小變動對輸出有多大影響。 Grad-CAM 是常見做法之一，會用卷積層特徵做熱區視覺化。 它適合做輔助解釋，但不代表就是模型真正的思考過程。
情境判斷
Q1（直覺題）： 如果你想看模型在圖片上最在意哪裡，通常會看什麼？
通常會看顯著性地圖或類似熱區圖。
Q2（判斷題）： 顯著性地圖看起來很亮，就代表模型一定判斷正確嗎？
不一定。熱區只是解釋線索，不等於真正的因果證據。
常見問題
顯著性地圖的計算複雜嗎？
A：要看方法，簡單版可以很快，基於深度模型的版本通常更吃算力。
顯著性地圖可以用在影片嗎？
A：可以，通常是逐幀分析或把多幀結果串起來看。
怎麼評估顯著性地圖品質？
A：常會看 AUC、NSS、CC，或搭配人工檢視。
範例考題
在深度學習模型的分析與驗證過程中，研究人員有時會利用「顯著性圖（Saliency Map）」來輔助理解模型行為。下列何者最符合此技術的主要用途？
- A. 量化各輸入特徵對模型整體預測準確度的平均影響程度
- B. 標示輸入資料中對單一預測結果影響較大的區域或部分 ✓ 正確答案
- C. 評估在不同模型參數設定下，預測結果的穩定性變化
- D. 比較不同模型架構在測試資料上的泛化能力差異