穩健性(Robustness)是什麼?

穩健性是指模型在面對輸入數據的微小擾動、對抗性攻擊或分布偏移時,仍能維持其性能表現的能力。|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。

穩健性(Robustness)是什麼? 機器學習模型訓練

你有沒有遇過模型在乾淨資料上很準,一有雜訊就整個掉分?

你可以把穩健性想成模型的抗壓能力,資料稍微變一下,它還能不能站得住。

它重要是因為真實世界永遠不是考卷,輸入會有錯字、雜訊、攻擊和分布變化。

你可以把它想成一個把抽象概念拉回日常判斷的提示,先知道它解決什麼問題,再看技術細節。

容易混淆

穩健性 vs 準確率

準確率看平均答對多少 穩健性看遇到變化時還穩不穩 最關鍵的區別是正常表現和受擾動表現。

穩健性 vs 泛化

泛化看能不能處理沒看過的新資料 穩健性看資料被小幅擾動後會不會崩 最關鍵的區別是新資料和被干擾資料。

記住這句就好

資料一變就壞掉的模型,不夠穩健。

實際案例

打字錯誤 使用者把拼字打錯一點點,模型還能理解意思,這就是穩健性好。

對抗攻擊 圖片裡只改幾個像素,模型就看錯,這代表穩健性不足。

算法與應用

常見改善方式包括資料增強、對抗訓練、正則化和更好的驗證。 穩健性不是越高越好就結束,還要看精準度和成本的平衡。 實務上常要一起看分布偏移和對抗樣本。

情境判斷

Q1(直覺題): 如果模型對少量雜訊很敏感,最先懷疑的是什麼?

最先懷疑穩健性不足。

Q2(判斷題): 訓練準確率高就代表模型很穩健嗎?

不代表。它可能只是把訓練資料背熟,遇到新情況就掉下去。

常見問題

怎麼評估模型穩健性?

A:通常會看噪聲、擾動、攻擊或分布改變下的表現。

對抗訓練一定有效嗎?

A:通常有幫助,但會增加訓練成本,也不保證所有攻擊都扛得住。

資料增強和穩健性有什麼關係?

A:資料增強能讓模型看過更多變形,有助於降低對單一模式的依賴。