偏见缓解策略

偏见缓解策略通过减少对某些群体的歧视，让人工智能系统更公平。主要有三种方法：预处理（在训练前清理数据）、训练中处理（调整模型的学习方式）和后处理（在作出决策后修正输出）。例如，如果贷款审批系统对某些社区存在偏见，预处理可以移除位置数据，训练中处理可以在训练时加入公平性约束，后处理则可以调整审批门槛，确保不同群体受到平等对待。 试试这样：看看你使用的人工智能系统是否公开说明了它如何测试公平性。

偏见缓解会在机器学习流程的不同阶段介入。预处理会先转换训练数据，在模型开始学习前去除不公平的模式。具体方法包括重加权，也就是调整样本的权重，让各群体的代表性更均衡；还包括学习公平表示，在保留有用信息的同时隐藏敏感属性。它的主要优势是，清理后的数据可以用于任何机器学习算法。

训练中处理会修改学习算法本身，把公平性约束直接纳入训练。对抗去偏会同时训练两个模型：一个负责完成预测任务，另一个尝试从这些预测中识别敏感属性。两者之间的对抗会推动模型变得更公平。其他训练中处理方法会加入数学约束，确保不同群体的错误率相同，或调整优化目标，对不公平的结果施加惩罚。

后处理在模型作出预测后介入，通过调整门槛或结果来满足公平性标准。例如，可以为不同群体设置不同的决策门槛，让各群体的真正率保持一致。拒绝选项分类方法会在预测不确定时，倾向于作出对弱势群体有利的判断。

每种方法都有取舍。预处理很灵活，但可能损失预测准确率。训练中处理可以取得更好的表现，但需要修改训练算法。后处理保留了模型的准确率，但可能让人觉得只是在贴创可贴，没有解决根本问题。

研究表明，没有哪一种偏见缓解方法在所有情况下都更好，效果取决于具体的公平性指标、数据集特征和应用情境。Mehrabi 等人（2021）的一篇综合综述梳理了二十多种公平性定义，并按照机器学习流程的各个阶段对缓解技术进行了分类 [1]。Caton 和 Haas（2024）进一步强调，公平性干预既要考虑技术局限，也要考虑社会和法律层面的影响 [2]。

• Zemel 等人（2013）提出了学习公平表示的方法：对数据进行编码，在尽量提高实用性的同时隐藏受保护属性，让任何下游分类器都能使用预处理后的数据 [3]。
• Zhang 等人（2018）表明，对抗去偏可以改善人口统计均等，也就是让不同群体获得正向预测的比例更接近。这种方法同时训练一个预测器和一个对抗模型，前者尽量减小任务损失，后者尝试预测敏感属性 [4]。
• Hardt 等人（2016）证明，在预测完成后调整门槛，可以在不重新训练模型的情况下，让不同群体实现机会平等，即具有相同的真正率 [5]。
• Barocas、Hardt 和 Narayanan（2023）阐述了根本性的数学不可能性：单个分类器无法同时满足所有常见的公平性定义，因此必须结合具体情境作出取舍 [6]。

术语解释：对抗去偏——一种训练技术，其中一个模型尝试预测结果，另一个模型尝试猜出受保护属性；当第二个模型猜不出来时，第一个模型就得到改进，这表明预测中包含的敏感信息更少。

现有的偏见缓解方法面临明显局限。不同的数学公平性定义往往相互冲突。Barocas 等人证明，除少数平凡情形外，独立性、分离性和充分性无法同时满足 [6]。如果数据中仍然存在代理变量，例如能间接反映种族的邮政编码，那么通过移除敏感属性来实现公平的方法就会失效。针对某一公平性指标优化的缓解技术，可能让其他指标变差，而且没有哪种方法能解决训练数据带有偏见或真实标签不公平的根本原因。此外，针对总体指标优化的公平性干预，可能掩盖多个身份特征交叉形成的子群体所受到的伤害。当公平的人工智能建议与操作人员原有的偏见冲突时，他们仍可能推翻或忽略这些建议，从而削弱技术干预的效果 [7]。