公平（群體公平 vs 個體公平）（fairness, group vs individual）
/ FAIR-nis, groop vur-sus in-di-VIJ-oo-ul /
當我們問一套演算法是否「公平」時，其實可能指的是兩件很不一樣的事，而它們常常彼此拉扯、背道而馳。群體公平問的是：各個群體之間的結果是否均衡——男性與女性，或不同族裔，通過的比率是否相近？個體公平問的則更細：兩個在一切「應當重要」之處都相似的人，是否得到了相同的對待，而不論他們屬於哪個群體？後者的口號是「相似的人，相似地對待」。
難就難在這裡。設想一個獎學金演算法。為了讓兩個社區的錄取率相等（群體公平），你也許不得不錄取某個區裡稍弱的申請者，而捨棄另一個區裡稍強的——這對被拿來比較的兩個個體而言，又顯得不公平（違反了個體公平）。反過來，如果你純粹按「成績」分數給所有人排序，而這個分數本身又是由資源不均的學校塑造出來的，那麼完美的個體公平反而會把失衡的群體結果固化下來。研究者已經證明：在現實條件下，你通常無法同時滿足每一種合理的公平定義。它們是真的相互衝突的。
它為何重要：「公平」並沒有唯一的數學公式。公平是一種價值判斷，關乎我們想要怎樣的社會，而數學只是逼我們把其中的取捨說清楚。一個團隊若只說「我們的模型是公平的」，卻不說它選了哪一種定義、為此犧牲了什麼，那它並沒有回答這個問題——它是在迴避。有用的做法是：先說清你最想避免的傷害是哪一種，再挑選能防住它的那個定義。
兩位貸款申請人收入、負債、信用記錄完全相同——只是住在不同的社區。個體公平要求他們必須得到相同的決定。但群體公平仍可能發出警報：如果在成千上萬對這樣的人之中，某個社區的通過率明顯更低，那就暴露出這些「相同」的輸入，其實是由不平等的歷史塑造出來的。
同一個案例，按一種定義看是公平的，按另一種看卻是不公平的——這正是為什麼你必須做出選擇，並把它說出來。
有一個著名的「不可能性」結論：除了一些平凡的特例，一個模型無法既在各群體間「校準」一致，又同時在各群體間「錯誤率」相等。所以像2016年美國那場關於再犯風險評估工具的爭論，並不是誰算錯了——雙方都對，只是用了不同的公平定義。