---
title: "人工智慧風險評估（AI Risk Assessment）"
slug: ai-risk-assessment
language: zh-TW
source: https://aiterms.tw/terms/ai-risk-assessment
updated_at: 2026-04-29
tags: [AI倫理與治理, 風險評估, 模型評估, 資料處理, AI應用]
ipas_term: false
---

# 人工智慧風險評估（AI Risk Assessment）

> **你要把 AI 上線前，會不會先問它可能出什麼事？**
>
> 你可以把人工智慧風險評估想成上線前的安全檢查，先找出模型可能在哪裡出錯、錯了會造成多大損失、發生機率有多高。它不是在討論模型有沒有能力，而是在討論失手時的代價。
>
> 這很重要，因為很多 AI 問題不是一開始就爆炸，而是先出現小偏差，最後慢慢變成大事故。

### 容易混淆

> **風險評估 vs AI安全**
>
> 風險評估是在找風險、排優先順序。
>
> AI安全是在設計方法去降低風險。
>
> 最關鍵的區別：一個先盤點，一個再處理。
>
> **風險評估 vs AI治理**
>
> 治理是整體管理框架。
>
> 風險評估是其中很重要的一個步驟。
>
> 最關鍵的區別：治理是大架構，評估是工具。
>
> **風險評估 vs 紅隊演練**
>
> 風險評估看哪些地方可能危險。
>
> 紅隊演練會主動去攻擊那些地方。
>
> 最關鍵的區別：一個找風險，一個驗風險。

### 記住這句就好

> 先找出哪裡會出事，再決定先救哪一塊。

### 實際案例

> **貸款核准模型**
>
> 銀行在上線前會先看模型會不會對某些族群有系統性偏差，若風險高，就要加人工覆核、限制自動拒絕或調整特徵。
>
> **客服聊天機器人**
>
> 一個會回覆客訴的聊天機器人，風險可能不是「答錯一題」而已，而是誤導消費者、洩漏個資或說出不當內容，所以要先做風險盤點。

### 深入了解

> **風險評估常看的維度**
>
> 發生機率、影響程度、可偵測性、可修復性和受影響的人數，通常都會一起看。
>
> **常見輸出**
>
> 風險清單、優先級、緩解措施、監控指標和責任人，才算完整。

### 情境判斷

> **Q1（直覺題）：** 你發現模型在少數族群上的錯誤率特別高，這時要先做什麼？
>
> → 先做風險評估，把影響範圍、嚴重度和修正優先順序排出來。
>
> **Q2（判斷題）：** 只要風險評估做過一次，就可以永久不再看嗎？
>
> → 不行，這要看情況。模型、資料、法規和使用情境會變，風險也會跟著變，通常要定期重做。

### 常見問題

> **Q：風險評估一定要很正式嗎？**
>
> 規模小的專案可以先用簡單清單，大型或高風險系統就需要正式流程和紀錄。
>
> **Q：風險評估和測試有什麼差別？**
>
> 測試看功能有沒有壞，風險評估看壞掉時會造成什麼後果。
>
> **Q：誰來做風險評估？**
>
> 通常要跨團隊合作，包含產品、工程、法務、資安和領域專家。
>
> **Q：AI 風險評估只在上線前做嗎？**
>
> 不是，部署後也要持續監控，因為資料和使用情境會變。

### 相關術語

> - **人工智慧安全**：風險評估找出問題後，下一步就是安全設計
> - **AI治理**：風險評估通常是治理流程的一部分
> - **人工智慧監管**：高風險應用常需要符合監管要求
> - **負責任AI**：把風險、倫理和治理一起放進來看

---

來源：https://aiterms.tw/terms/ai-risk-assessment
快查頁：https://aiterms.tw/terms/ai-risk-assessment
最後更新：2026/04/29
深度解說：https://aiterms.tw/learning/what-is-ai-risk-assessment