公平、伦理与社会

人口统计均等(demographic parity)

/ dem-uh-GRAF-ik PAIR-uh-tee /

人口统计均等,是给「公平算法」下定义的一种具体方式:它要求各群体获得正面决定的比率应当相同。如果一个招聘筛选让30%的男性申请者进入下一轮,人口统计均等就要求它同样让30%的女性申请者——以及其他每个群体的30%——进入下一轮。它只在乎「有多少人拿到了好结果」这条底线,而不在乎具体是谁、谁更应当拿到。

它的吸引力很直观:如果一个筛选工具让某个群体5%的人通过,却让另一个群体25%的人通过,那即便你还没去查为什么,也已经觉得不对劲了。问题在于,人口统计均等对「正当的差异」视而不见。假设出于某种正当的原因,两个群体在某个相关特征上确实存在差异——比如某申请者群体的相关工作年限平均值不同。强行让录取率相等,就意味着要录取某个群体里资历较浅的人,而舍弃另一群体里资历更深的人;这本身可能让人觉得不公,甚至会通过把人推上注定失败的位置,反过来伤害它本想帮助的那个群体。

它为何重要:人口统计均等是最容易向公众和监管者解释清楚的公平指标,它直接针对「系统是否把整个群体排除在外」这一担忧。但它是一件钝器。它无视这个决定是否准确;而在那些群体在「正当目标」上确有差异的情形里,强推它可能是用一种不公去换另一种不公。它是一面值得举起的警示旗,而非关于正义的完整定义。

一个广告平台,把高薪职位广告投放给了符合受众条件的男性中的8%,却只投放给了同样符合条件的女性中的2%。这就违反了人口统计均等:无论任何个体的资历如何,正面结果(看到这个机会)并未以相等的比率被送达。

人口统计均等检查的是「每个群体获得好结果的比率」——而对其中的「为什么」一概不问。

一个既无用又冒犯的系统,也可能满足人口统计均等——比如从每个群体里以相等比率随机录取。比率相等,并不等于决定同样优良。这正是为什么它通常要和「等化几率」这类顾及准确性的指标搭配使用。

又称
statistical paritydemographic parity群体均等统计均等統計均等