公平性约束模型

公平性约束模型是带有特定规则的 AI 系统，这些规则用来防止产生有偏的结果。它们不只追求准确率，还必须满足用数学方式定义的公平性标准，比如确保不同社区中条件相近的贷款申请人获得相同的审批通过率。这往往需要有意做出取舍：牺牲少量整体准确率，换取有害偏差的大幅减少。比如，即使历史数据呈现出性别偏向，筛选简历的 AI 也可能受到约束，确保推荐结果不会过度偏向某一性别的候选人。

试试这样：当自动化系统做出决定时，想一想它可能遵循了什么公平性规则。

公平性约束模型会改变 AI 训练过程的根本目标。标准模型只有一项任务：尽量减少错误。公平性约束模型有两项任务：尽量减少错误，同时满足一项具体的公平性规则。

流程：输入、约束和输出

输入：这个过程从常见的数据开始，比如过往的招聘记录或贷款申请。关键在于，开发者还会提供一项用数学方式定义的公平性约束，作为第二项输入。比如，规则可以是：“男性和女性中获推荐参加面试的比例，两者相差必须在百分之五以内。”

过程：训练时，AI 会从数据中学习规律。不过，它学到的每一种可能的决策方式，都要接受公平性约束的检查。如果某种规律会带来有偏的结果，也就是违反规则，模型就会受到惩罚，迫使它寻找其他既有合理准确率、又符合公平规则的规律。

输出：最终的模型就是这种权衡的产物。比如，在医疗诊断中，受有偏的历史数据影响，标准 AI 可能会学到：某个症状对女性患某种疾病的提示作用较弱。公平性约束模型则必须摆脱这种历史偏差，更公平地评估该症状的重要性，从而给出更公平、但可能略有不同的一组预测结果。

同样的过程也适用于内容审核等领域。AI 可以受到约束，确保针对仇恨言论的规则不会过度针对使用特定方言撰写的帖子，比如使用非裔美国人白话英语的帖子，从而减少文化偏见。

公平性约束通常在机器学习流程的三个阶段之一实施：预处理（修改输入数据）、训练中处理（修改学习算法），或后处理（调整模型输出）。训练中处理是最直接的实现方式，它将公平性嵌入模型的核心逻辑。

• Hardt、Price 和 Srebro（2016）开发了一种实现“机会均等”的后处理技术。它为不同群体设置不同的决策阈值，无需重新训练模型，就能确保各群体的真正率相同，也就是实际为正例的样本被正确识别出来的比例相同。[1]
• Zafar 等人（2017）提出了一些有影响力的训练中处理方法，将公平性约束直接加入算法的优化目标，迫使算法从一开始就学习能够防止差别影响的决策边界。[2]
• Bellamy 等人（2018）创建了开源工具包 AI Fairness 360（AIF360），为开发者提供一系列检测和减轻偏差的算法，包括多种预处理、训练中处理和后处理方法。[3]

“公平性与准确率之间需要取舍”并不是普遍规律；提升公平性有时能帮助发现并纠正那些同样会降低准确率的偏差。最大的挑战在于，选择公平性指标是一项伦理决策，而非技术决策。公平性的数学定义，比如人口统计均等（结果相同）和均等化赔率（错误率相同），往往互不兼容，这意味着模型无法同时满足所有定义。此外，针对一类群体划分方式（比如按种族划分）优化公平性，可能无意中加剧另一类群体划分方式（比如按性别划分）下的偏差。这种现象被称为“公平性划区操纵”（fairness gerrymandering）。