---
title: "黑箱模型（Black Box Model）"
slug: black-box-model
language: zh-TW
source: https://aiterms.tw/terms/black-box-model
updated_at: 2026-04-29
tags: [機器學習, 深度學習, 模型評估, AI倫理與治理, 模型訓練, 神經網路]
ipas_term: false
---

# 黑箱模型（Black Box Model）

> **模型分數很準，但你完全看不懂它為什麼這樣判斷時，你會怎麼判斷它真正的作用？**
>
> 你可以把它想成 黑箱模型是指其內部運作機制對使用者而言不透明的模型，難以理解輸入與輸出之間的具體關係。
>
> 在 模型分數很準，但你完全看不懂它為什麼這樣判斷時 這種情境裡，這個概念會直接影響你怎麼設計、怎麼評估、怎麼上線。

### 容易混淆
> **黑箱模型 vs 白箱模型**
> 黑箱模型難追原因，白箱模型則能直接看出決策規則。
>
> **可解釋性 vs 準確率**
> 準確率是在看做得對不對，可解釋性是在看能不能說明為什麼。
>
> **解釋結果 vs 模型本體**
> 有些方法只是後處理解釋，不代表模型本身就透明。

### 記住這句就好
> 先看它要解決的是什麼問題，再看它是不是最合適的方法。

### 實際案例
> **案例 1：信用評分**
> 客戶被拒絕時，銀行通常需要知道主要影響因子，而不是只拿到一個分數。
>
> **案例 2：醫療影像**
> 醫師要看模型為什麼判定異常，才能決定要不要進一步檢查。

### 深入了解
> | 面向 | 重點 |
> |---|---|
> | 常用方法 | LIME、SHAP、特徵重要度、注意力可視化、反事實解釋。 |
> | 適用情境 | 法規要求高、風險高、需要人工審核的場景特別需要。 |
> | 限制 | 局部解釋不等於全局理解，解釋也可能不穩定。 |

### 情境判斷
> **Q1（判斷題）：** 如果模型很準但誰都看不懂，還能直接上線嗎？
> → 看情境，像廣告排序可能可以，但在醫療、金融這類高風險場景就不行。
>
> **Q2（判斷題）：** 如果解釋方法說模型最看重某個特徵，就一定是真的嗎？
> → 不一定，因為後處理解釋可能受方法本身影響。

### 常見問題
> **Q：怎麼提高可解釋性？**
> 可以選較透明的模型，也可以對黑箱模型加上 LIME、SHAP 這類方法。
>
> **Q：可解釋性越高越好嗎？**
> 不一定，通常要在可解釋性、性能和成本之間找平衡。
>
> **Q：黑箱模型一定不能用嗎？**
> 不是，當任務很複雜且對準確率要求高時，黑箱模型仍然很常用。

### 相關術語
> - **可解釋人工智慧**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **偏差**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **對抗性攻擊**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **穩健性**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。
> - **人工智慧倫理**：這是最容易和它一起出現的概念，能幫你看出風險和邊界。

---

來源：https://aiterms.tw/terms/black-box-model
快查頁：https://aiterms.tw/terms/black-box-model
最後更新：2026/04/29
深度解說：https://aiterms.tw/learning/what-is-black-box-model