LIME(Local Interpretable Model-agnostic Explanations)是什麼?

LIME 針對單筆預測,以局部線性模型近似複雜黑箱模型的行為,提供與模型無關的可解釋性|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

LIME(Local Interpretable Model-agnostic Explanations)是什麼? iPAS 模型評估AI倫理與治理

你有沒有被 AI 拒絕過申請,卻不知道它到底在看什麼? 你可以把 LIME 想成,先在這一筆資料附近做小實驗,再推回模型為什麼這樣判斷。 它其實就是一種針對單筆預測的局部解釋方法。 不管底下是樹模型、神經網路還是其他黑箱模型,它都能派上用場。

容易混淆

LIME vs SHAP LIME 做局部近似,SHAP 做特徵貢獻分配。 一個重速度和直覺,一個重理論與穩定性。

LIME vs 特徵重要性 特徵重要性常看整體,LIME 常看單筆。 一個回答模型平常怎麼想,一個回答這一次怎麼想。

最關鍵的區別: LIME 是單筆局部解釋,不是整體規則。

記住這句就好

先看這一筆附近,再解釋模型為什麼這樣判斷。

實際案例

信用審核 當客戶被拒絕時,LIME 可以指出影響最大的條件,像是逾期紀錄、負債比或收入不足。

醫療影像 醫師想知道模型為何判成肺炎,LIME 可以標出影像裡最敏感的區塊。

算法與應用

它會對原始樣本附近做擾動,產生一批鄰近樣本,再用黑箱模型去打分。 接著用簡單模型去近似這些鄰近樣本的行為,得到局部解釋。 這種方法快、直觀,但不是模型真實內部邏輯。

情境判斷

Q1(直覺題): 你只想知道某一筆貸款為什麼被拒,該先看哪種解釋方法?

LIME 很適合,因為它主打單筆局部解釋。

Q2(判斷題): LIME 跑出來的解釋,就等於模型真正的決策規則嗎?

不是,它只是近似,所以要把它當成解讀工具,而不是模型內部原理。

iPAS 考題

Q:LIME 最核心的用途是什麼? 用局部近似的方式,解釋黑箱模型對單筆資料的預測原因。

Q:LIME 和 SHAP 最大差異是什麼? LIME 偏局部近似,SHAP 偏特徵貢獻分配與一致性。

常見問題

LIME 可以解釋所有模型嗎?

大多數情況下可以,因為它是 model-agnostic,不綁特定模型。

LIME 的結果穩定嗎?

不是每次都完全一樣,因為它依賴局部擾動,結果會受抽樣影響。

什麼時候不適合只用 LIME?

當你需要全局規則、很高穩定性,或要做嚴格審計時,通常還要搭配別的方法。

範例考題

在可解釋 AI(Explainable AI, XAI)的分類架構中,LIME(Local Interpretable Model-agnostic Explanations)屬於哪一類解釋技術?

  • A. 內建可解釋模型(Intrinsic Interpretability):模型本身具有透明的決策結構
  • B. 對話式解釋系統(Conversational AI Explainer):透過互動對話提供模型解釋
  • C. 後處理模型解釋(post-hoc):對已訓練模型提供外部解釋 ✓ 正確答案
  • D. 代理模型技術(Surrogate Model):訓練另一個簡單模型來完全取代原黑盒模型進行推論

解析:

LIME 是一種後處理(post-hoc)解釋技術,它不改變原始模型,而是在模型訓練完成後,透過局部近似的方式對已訓練模型的預測結果提供解釋。它與模型本身的結構無關(model-agnostic)。

立即測驗

想測試你對 LIME 的掌握程度? 開始模擬考