視覺中的公平性

電腦視覺中的公平性，關切的是模型對「由受保護屬性（膚色、性別、年齡、族裔）所定義之人群」表現不均，而這種落差會造成真實傷害。具里程碑意義的警鐘是「Gender Shades」（Buolamwini 與 Gebru，2018）：商用人臉分析系統對淺膚色男性的性別分類幾近完美（錯誤率低於 1%），對深膚色女性卻嚴重失敗（錯誤率高達約 35%）。同一個模型、同一個任務，可靠度卻因你是誰而天差地別。由於視覺系統把守著手機、建築、福利與治安的存取權，這類落差並非紙上談兵——它們轉化為「誰會被誤認、被拒絕、被監控」。

這些落差直接上溯到資料集偏誤（訓練集偏向某些人口族群，使模型對呈現不足的群組訓練得就是比較少）與虛假線索，但公平性是它自成一格的評估學門，因為它問的是準確率從不問的問題：不是「模型平均有多好？」，而是「效能在各群組間如何分佈、那個分佈是否可接受？」。一個整體準確率 95% 的模型，可能藏著一群 99%、另一群 70%；彙總指標會主動掩蓋這個落差。

為了讓公平性可量測，研究者把準則形式化，而一個關鍵且經數學證明的事實是：這些準則一般彼此衝突——你通常無法同時滿足全部。主要家族有：人口統計均等（demographic parity，正預測率在各群組相等，無論真實標籤為何）；均等勝算（equalized odds，真正例率與假正例率在各群組相等——錯誤率相等）；機會均等（equal opportunity，一種放寬，只要求真正例率相等）；以及群組內校準（給定的信心度對每個群組都代表相同的答對率）。一個不可能性結果指出，校準與均等勝算無法同時成立（退化情況除外），因此「公平」從來不是單一普世定義——它是一個帶價值判斷的選擇：在某用途下哪個準則重要、哪些錯誤對誰最有害。

實務上，公平性工作意味著稽核與緩解。稽核：把每個指標依子群組拆解（各群組準確率、FPR/FNR、校準）、在人口平衡的基準上測試、並回報落差而不只回報平均——輔以 model cards 等建檔。緩解橫跨整個流程：前處理（重新平衡或增強呈現不足的群組）、處理中（公平性約束，或從特徵中移除群組預測資訊的對抗式去偏）、後處理（針對群組的閾值）。仍有嚴峻的警示：受保護屬性往往無法取得、或其本身就難以公平地推斷；強制某一公平指標可能惡化另一個、或降低整體準確率；而許多傷害（大規模監控、同意權、部署情境）無法被任何指標修正，需要的是治理而非更好的優化。因此公平性被當作一個社會技術問題，其中指標是必要、卻永遠不充分的。