演算法偏見 是什麼？

Algorithmic Bias — 演算法偏見 的完整解釋

演算法偏見是指 AI 模型因訓練資料或設計缺陷而產生對特定族群不公平的預測結果，是 AI 治理與負責任 AI 的核心議題

容易混淆

演算法偏見 vs 人工智慧公平性

偏見是問題現象。

公平性是希望達到的目標。

最關鍵的區別：一個是偏掉，一個是拉回來。

演算法偏見 vs AI倫理

偏見是倫理關心的具體案例。

倫理還包含責任、透明和隱私。

最關鍵的區別：偏見是其中一種倫理風險。

演算法偏見 vs 資料偏差

資料偏差是來源。

演算法偏見是最後在模型結果裡看到的偏差。

最關鍵的區別：來源和結果不同。

記住這句就好

模型不是只要準，還要對所有人都差不多公平。

實際案例

招募系統

若歷史資料裡某類候選人過去比較少被錄取，模型可能學到這個模式，之後就持續把同類人選排低，這就是偏見會自我放大。

貸款審核

當模型對某些地區或年齡層的拒貸率特別高，就算沒有明寫歧視，結果也可能讓某些族群更難借到錢。

算法與應用

怎麼發現偏見

先切族群看錯誤率，再看不同群體的通過率、召回率和誤判率是否差很多。

怎麼減少偏見

改資料、改特徵、重加權、後處理校正、人工審核，常常要一起做才有效。

情境判斷

Q1（直覺題）： 一個模型整體準確率很高，但某個族群的錯誤率明顯更高，這算不算問題？

→ 算。整體高分不代表所有人都受到同樣待遇，這就是偏見要看的地方。

Q2（判斷題）： 只要把性別欄位拿掉，模型就一定不會有偏見嗎？

→ 不一定，這要看情況。模型可能用其他欄位間接推回性別資訊，所以還要看結果是否真的公平。

演算法偏見 在 iPAS 考試中的重點

根據歷年統計，演算法偏見 相關題目 屬於高頻考範圍。

常見問題

演算法偏見一定是故意的嗎？

不一定，很多偏見是資料歷史包袱或設計選擇累積出來的。

偏見只會出現在大型模型嗎？

不是，小模型一樣會有，只要資料或規則有問題就可能發生。

怎麼知道模型有沒有偏見？

不能只看總準確率，要分群體看表現差異。

偏見修掉後準確率會下降嗎？

有可能，但常常是必要的取捨，因為你要換來更公平的結果。