公平性重加权

重加权是一种提升公平性的技术：根据训练样本所属的群体和结果，为它们分配不同的重要性权重。如果你的数据中，贷款获批的女性占比偏低，就给这些样本更高的权重，让模型更关注它们。如果贷款获批的男性占比偏高，就给这些样本更低的权重。这种调整发生在训练之前，让模型从一份“更公平”的数据中学习，同时保留原始记录。你可以把它想成批改作业时，让某些学生的答案在评分中占更大比重，以弥补他们过去受到的不利影响。 请注意：重加权调整的是数据的影响力，而不是数据本身。

重加权会为受保护属性（如性别或种族）与结果标签（如获批或被拒、录用或未录用）的每一种组合计算权重。首先，你要计算：如果数据完全没有偏见，每种组合出现的预期概率是多少。然后，按预期频率与实际频率的比值分配权重。出现次数少于预期的样本获得更高权重，占比偏高的样本则获得更低权重。

模型训练时，这些权重会告诉算法该在多大程度上重视每个样本。如果训练数据中，符合条件的女性占比低于公平分布下的预期，她们的样本在训练时就会按比例获得更高权重，而占比偏高的群体则获得更低权重。模型使用的还是同一批数据，但因为它现在更认真地“倾听”了过去代表性不足的群体，学到的决策模式也会不同。

这种方法适用于许多领域。在招聘中，你可以对来自代表性不足群体、且过去在岗位上表现成功的人的简历进行重加权，以抵消历史上的排斥。在医疗中，你可以按人口群体对患者的治疗结果进行重加权，确保治疗建议不会因获得医疗服务的机会不均等而出现偏差。在贷款中，重加权可以处理历史遗留的歧视问题：某些群体无论信用状况如何，获得的贷款都更少。关键在于，重加权在数据层面起作用，因此几乎可以搭配任何机器学习算法使用。

Kamiran 和 Calders（2012）将重加权正式确立为一种缓解偏见的技术。他们研究了包括重加权在内的数据预处理方法，用于在分类任务中考虑歧视问题，并探讨了准确性与非歧视性之间的理论权衡 [1]。这种方法通过计算权重，使不同群体的受保护属性与标签的联合分布一致，实际上相当于创建了一份平衡的“虚拟”训练数据集。

• Kamiran 和 Calders（2012）：与未采取偏见缓解措施的基准方法相比，数据预处理技术可以减少分类任务中的歧视性结果，同时保持准确性 [1]。
• Bellamy 等人（2018）：AI Fairness 360 将重加权实现为核心预处理算法之一，在信用评分、招聘和刑事司法数据集上展示了有效性，且额外计算开销很小 [2]。
• Mehrabi 等人（2021）：重加权被归类为在数据层面处理偏见的预处理方法，因此可以搭配任何后续分类器使用，但它只能处理代表性差异，无法解决特征层面的偏见 [3]。

重加权有一些重要限制。它只能处理训练数据中代表性不均衡所造成的差别影响，无法处理特征或标签本身的偏见。如果结果标签已经受到人为歧视的污染，比如带有偏见的绩效评价，重加权只会重新分配这种不公平，而不会消除它。这种方法还假设敏感属性可用且记录准确，这在某些应用中会引发隐私问题。尤其需要注意的是，重加权以人口统计均等为优化目标，这可能与均等化胜算或校准等其他公平性定义冲突。公平性与准确性之间也存在权衡：重加权涉及的取舍可能影响模型表现，而对于少见的群体与结果组合，权重可能变得不稳定。最后，重加权是一种技术层面的修正，无法解决数据收集或系统设计中造成歧视的根本原因。