群体公平与个体公平

群体公平关注不同人群（比如不同社区、族裔或性别的人）总体上是否获得相近的结果，例如各个社区的贷款批准率是否大致相同。个体公平关注的是，在相关条件上相似的人，是否得到相同的对待，而不受所属群体的影响。

群体公平衡量不同人群之间是否达到统计均等，也就是比较不同人口群体的申请批准率、预测评分或录用率。它的核心直觉是：如果一个系统是公平的，就不应该让任何受保护群体系统性地获得更差的结果。个体公平则关注一致性：资质或处境相似的人，应该得到相似的决定，不受人口群体身份的影响。

这两种原则之间存在矛盾，因为它们无法同时达到最大程度的公平。如果某个群体的平均资质确实更高（由于教育、经验或其他因素），强行让批准率相同，就意味着要么拒绝得分较高群体中符合条件的申请者，要么为得分较低的群体降低标准。反过来，如果各个群体在相关因素上存在差异，对每个人采用完全相同的决策规则，往往会让不同群体获得不同的结果。

这种取舍随处可见。在招聘中，群体公平推动人员构成的多样性，个体公平则坚持由资质最出色的候选人获得职位，不受人口群体身份的影响。在贷款中，群体公平会识别按居住区域拒绝贷款的“红线歧视”模式，个体公平则要求信用资质良好的申请者获得批准，不受所在社区的影响。在医疗中，群体公平会审查治疗建议是否因种族而异，个体公平则确保症状和病史完全相同的患者获得相同的医疗照护。哪种方法最好，取决于具体情境：群体公平擅长发现系统性偏见，个体公平则维护择优原则，防止逆向歧视。

要在机器学习中实现公平，你需要结合具体情境作出价值判断，确定哪些原则对特定应用最重要。不同的公平标准之间往往需要取舍，无法只靠技术优化来解决。

这个框架往往把群体归属视为固定且可观察的信息，忽略了交叉性因素（种族、性别和阶层如何相互影响），也忽略了群体身份属于敏感信息、由个人自我认定或会发生变化的情况。此外，形式化的公平定义关注统计特征，却忽视了程序公平，也就是决策过程本身是否透明、是否允许受影响者提出异议，以及是否被受影响的群体视为正当。