人工智慧風險評估 是什麼？

AI Risk Assessment — 人工智慧風險評估 的完整解釋

人工智慧風險評估是一種識別、分析和評估人工智慧系統可能造成的潛在風險的過程，旨在了解風險的性質、可能性和影響，並制定相應的應對措施。

容易混淆

風險評估 vs AI安全

風險評估是在找風險、排優先順序。

AI安全是在設計方法去降低風險。

最關鍵的區別：一個先盤點，一個再處理。

風險評估 vs AI治理

治理是整體管理框架。

風險評估是其中很重要的一個步驟。

最關鍵的區別：治理是大架構，評估是工具。

風險評估 vs 紅隊演練

風險評估看哪些地方可能危險。

紅隊演練會主動去攻擊那些地方。

最關鍵的區別：一個找風險，一個驗風險。

記住這句就好

先找出哪裡會出事，再決定先救哪一塊。

實際案例

貸款核准模型

銀行在上線前會先看模型會不會對某些族群有系統性偏差，若風險高，就要加人工覆核、限制自動拒絕或調整特徵。

客服聊天機器人

一個會回覆客訴的聊天機器人，風險可能不是「答錯一題」而已，而是誤導消費者、洩漏個資或說出不當內容，所以要先做風險盤點。

深入了解

風險評估常看的維度

發生機率、影響程度、可偵測性、可修復性和受影響的人數，通常都會一起看。

常見輸出

風險清單、優先級、緩解措施、監控指標和責任人，才算完整。

情境判斷

Q1（直覺題）： 你發現模型在少數族群上的錯誤率特別高，這時要先做什麼？

→ 先做風險評估，把影響範圍、嚴重度和修正優先順序排出來。

Q2（判斷題）： 只要風險評估做過一次，就可以永久不再看嗎？

→ 不行，這要看情況。模型、資料、法規和使用情境會變，風險也會跟著變，通常要定期重做。

常見問題

風險評估一定要很正式嗎？

規模小的專案可以先用簡單清單，大型或高風險系統就需要正式流程和紀錄。

風險評估和測試有什麼差別？

測試看功能有沒有壞，風險評估看壞掉時會造成什麼後果。

誰來做風險評估？

通常要跨團隊合作，包含產品、工程、法務、資安和領域專家。

AI 風險評估只在上線前做嗎？

不是，部署後也要持續監控，因為資料和使用情境會變。