公平、倫理與社會

等化勝率(equalized odds)

/ EE-kwuh-lyzd ODZ /

等化勝率是一種公平定義,與人口統計均等不同,它會去關注「這個決定是否正確」。它問的是:在那些「本應得到肯定答覆」的人當中,模型給出肯定的可能性,是否不論群體都一樣?而在那些「本應得到否定答覆」的人當中,它錯誤地給出肯定的可能性,是否同樣不論群體都一樣?說白了就是:模型犯錯——無論哪一類錯——的比率,在各群體之間應當相等。

假設一項醫學檢查會把患者標記為「需要複診」。等化勝率要求:在真正患病的人裡,每個群體被查出來的比例應當相同(真陽性率相等);在其實健康的人裡,每個群體被誤報的比例也應當相同(假陽性率相等)。它有意允許各群體「被標記的總比率」不同——如果他們的實際需求本就不同;它所禁止的,是那種比如在一個群體裡能查出90%的病人、在另一個群體裡卻只查出60%的系統。

它為何重要:等化勝率瞄準的是比人口統計均等更尖銳的傷害。它直接對抗「工具對一個群體好用、對另一個群體糟糕」的局面——即一個工具因你是誰,而更容易冤枉你,或更容易漏掉真實的病例。這恰恰是現實系統屢屢跌進的故障模式:從對深膚色面孔誤判率更高的人臉辨識,到對某個社區過度標記的風險評分。它的取捨要誠實交代:強推它可能逼模型整體準確率下降,而且你通常無法讓它與「校準一致」同時成立。

一個詐欺偵測系統,攔截了來自某國4%的合法交易,卻攔截了來自另一國同樣合法的交易中的12%。兩個群體的假陽性率不同,因此違反了等化勝率——第二個國家裡清白的顧客,承擔了系統更多的錯誤。

等化勝率要拉平的是「錯誤率」,而不只是「整體通過率」——它追問的是:誰在為這些錯誤買單。

一個常見的混淆:等化勝率不等於人口統計均等。「均等」拉平的是「給出肯定的頻率」;而「等化勝率」拉平的是「對那些應得者給出肯定的頻率」(以及錯誤地給不應得者的頻率)。當各群體在真實結果上確有差異時,二者會激烈地分道揚鑣。

又稱
equality of oddsequalized odds等化几率等化勝率几率均等