解析:
LIME 是一種後處理(post-hoc)解釋技術,它不改變原始模型,而是在模型訓練完成後,透過局部近似的方式對已訓練模型的預測結果提供解釋。它與模型本身的結構無關(model-agnostic)。
LIME 針對單筆預測,以局部線性模型近似複雜黑箱模型的行為,提供與模型無關的可解釋性|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。
你有沒有被 AI 拒絕過申請,卻不知道它到底在看什麼? 你可以把 LIME 想成,先在這一筆資料附近做小實驗,再推回模型為什麼這樣判斷。 它其實就是一種針對單筆預測的局部解釋方法。 不管底下是樹模型、神經網路還是其他黑箱模型,它都能派上用場。
LIME vs SHAP LIME 做局部近似,SHAP 做特徵貢獻分配。 一個重速度和直覺,一個重理論與穩定性。
LIME vs 特徵重要性 特徵重要性常看整體,LIME 常看單筆。 一個回答模型平常怎麼想,一個回答這一次怎麼想。
最關鍵的區別: LIME 是單筆局部解釋,不是整體規則。
先看這一筆附近,再解釋模型為什麼這樣判斷。
信用審核 當客戶被拒絕時,LIME 可以指出影響最大的條件,像是逾期紀錄、負債比或收入不足。
醫療影像 醫師想知道模型為何判成肺炎,LIME 可以標出影像裡最敏感的區塊。
它會對原始樣本附近做擾動,產生一批鄰近樣本,再用黑箱模型去打分。 接著用簡單模型去近似這些鄰近樣本的行為,得到局部解釋。 這種方法快、直觀,但不是模型真實內部邏輯。
Q1(直覺題): 你只想知道某一筆貸款為什麼被拒,該先看哪種解釋方法?
Q2(判斷題): LIME 跑出來的解釋,就等於模型真正的決策規則嗎?
Q:LIME 最核心的用途是什麼? 用局部近似的方式,解釋黑箱模型對單筆資料的預測原因。
Q:LIME 和 SHAP 最大差異是什麼? LIME 偏局部近似,SHAP 偏特徵貢獻分配與一致性。
大多數情況下可以,因為它是 model-agnostic,不綁特定模型。
不是每次都完全一樣,因為它依賴局部擾動,結果會受抽樣影響。
當你需要全局規則、很高穩定性,或要做嚴格審計時,通常還要搭配別的方法。
在可解釋 AI(Explainable AI, XAI)的分類架構中,LIME(Local Interpretable Model-agnostic Explanations)屬於哪一類解釋技術?
解析:
LIME 是一種後處理(post-hoc)解釋技術,它不改變原始模型,而是在模型訓練完成後,透過局部近似的方式對已訓練模型的預測結果提供解釋。它與模型本身的結構無關(model-agnostic)。
想測試你對 LIME 的掌握程度? 開始模擬考