交叉公平性

交叉公平性意味着，即使一个人同时属于多个边缘化群体，人工智能系统也应该公平地对待他们。比如，一个人既是女性，也是有色人种，或者既年长，又有残障。 请注意：评估人工智能系统时，要问它是否针对多种身份的组合做过公平性测试，而不只是每次检查一种特征。

交叉公平性关注人工智能公平性中的一个关键盲点：人们同时拥有相互交织的多重身份，评估时却常把不同人口群体类别看作彼此独立。常见的公平性指标，比如人口统计均等或均等化胜算，通常会按种族、性别、年龄或残障状况分别计算。这种做法假定，只要对每个群体都公平，对这些身份的组合也就公平。但研究表明，这在数学上并不成立。处于多种身份交叉点的子群体，可能遭受更严重的伤害，而汇总指标却看不出来。

比如，一个人脸识别系统分别针对不同种族群体（白人、黑人、亚裔）和不同性别（男性、女性）做了公平性测试。两项分析都可能显示，错误率处于可接受的范围。然而，处于这两种身份交叉点的黑人女性，往往面临高得多的错误率，因为系统训练时没有见过足够多属于这一特定交叉群体的样本。伤害会叠加，而不会相互抵消。这种情况在不同领域反复出现：招聘算法歧视有残障的女性，信用评分系统让有色人种移民处于不利地位，医疗人工智能低估老年黑人患者的疼痛。

实际操作中的难题是，身份组合的数量会急剧增加。大多数机构都缺少能代表所有这些组合的数据，因此不得不做出取舍：根据风险评估，优先关注某些交叉群体；使用合成数据或重新加权技术；或者接受有些伤害无法被发现。正在形成的最佳实践是“交叉公平性审计”：主动测试风险最高的交叉群体，并在设计系统时，让它们在数据稀少时能够妥善处理失效，而不是悄无声息地降低表现。

法律学者金伯莉·克伦肖（Kimberlé Crenshaw）于1989年提出“交叉性”这一概念，用来描述相互交织的社会身份如何形成叠加的歧视体系。在人工智能伦理中，这一框架揭示了为什么只看单一维度的公平性指标，无法保护同时受到多重边缘化的群体。研究表明，子群体公平性保证与群体层面的公平性在数学上相互独立：满足后者，并不能确保满足前者。

• Mitchell等人（2019）：只针对各项受保护属性分别评估算法公平性，可能掩盖多种属性交叉处的严重差距。他们提出，“交叉公平性”要求任何交叉子群体的结果都不能差于总体平均水平。[1]
• Kearns等人（2018）：提出“多重校准”技术，确保预测不仅在总体上得到良好校准，也在数量呈指数级增长的交叉子群体中得到良好校准，为交叉公平性提供了一种计算上可行的方法。[2]
• Buolamwini和Gebru（2018）：发现商业性别分类系统在肤色较浅的男性身上表现近乎完美，错误率为0.8%；但在肤色较深的女性身上表现很差，错误率达到34.7%。这说明交叉身份如何让算法伤害叠加。[3]

关键的形式化概念：子群体公平性要求模型的错误率或预测分布满足公平性约束，不仅要覆盖主要人口群体，还要覆盖受保护属性的所有组合。这比群体公平性的要求更严格，也需要专门的审计技术。

交叉公平性面临实践和理论上的根本挑战。数据稀疏是首要障碍：许多交叉群体的样本量很小，难以进行统计验证，还可能触及隐私限制。身份组合的数量会急剧增加，这意味着无法进行全面测试。研究人员必须决定优先审计哪些交叉群体，而这本身就涉及价值判断：哪些伤害最值得关注？一些学者认为，交叉公平性虽然必要，但如果不解决训练数据和制度结构中造成偏差的根源，仍然不够。另一些学者指出，专注于人工智能系统内部的技术修补，可能让人忽视更广泛的社会不平等，而这些系统往往会反映并放大这种不平等。