公平性中的因果推理

公平性中的因果推理，就是问：“在一个假想的反事实世界里，如果改变这个人的受保护属性，同时保持这个人的其他一切不变，结果会怎样？”这种方法能揭示统计方法漏掉的隐性歧视：比如，招聘算法因为某些社区与种族相关，就拒绝来自这些邮政编码区域的求职者，尽管算法从未直接获取种族信息。你可以把它理解为追踪敏感信息实际通过哪些路径影响决策，而不只是看表面上的相关性。 请注意：统计公平性指标可能掩盖代理歧视，而因果模型能揭示它。

因果推理通过构建结构因果模型来分析公平性，梳理种族、性别等受保护属性如何沿着不同路径影响结果。这里的关键是：受保护属性与决策之间的关联，并不都意味着歧视。有些关联经过了合理的中间变量，这类变量称为“消解变量”。例如，在大学招生中，性别可能影响院系选择，院系选择又会影响录取决定。如果我们认为院系选择是合理的考量因素，也就是消解变量，那么性别通过院系选择影响录取的路径就是可以接受的，但性别直接影响录取的路径则属于歧视。

这个框架区分了两种关键的歧视。“未消解歧视”是指受保护属性对决策产生了直接的因果影响，而这种影响无法用合理的消解变量来解释。“代理歧视”是指算法使用了代替受保护属性的变量，比如用邮政编码、社区或姓名来间接代表种族或族裔。因果方法让我们能够准确识别决策过程中哪些影响路径有问题，哪些可以接受。

在实践中，这意味着我们可以设计算法，消除不公平的影响路径，同时保留合理的路径。在招聘中，我们可以干预姓名、邮政编码等代理变量，消除它们的影响，同时仍让资历和经验影响决策。在贷款审批中，我们可以区分使用信用记录与使用社区数据的不同：信用记录可以是与种族相关的消解变量，而社区数据则可能是直接包含种族信息的代理变量。这种精细的区分能帮助机构建立更公平的系统，避免不必要地牺牲预测能力。

因果推理让公平性分析从选择统计指标，转向明确建模数据生成过程，并论证哪些因果路径可以接受、相关假设为何合理。Kusner 等人（2017）提出了反事实公平性，要求同一个人在现实世界中得到的预测，与其在属于另一人口群体的反事实世界中得到的预测保持一致 [1]。Kilbertus 等人（2017）形式化定义了两个关键的因果判据：未消解歧视，即受保护属性产生了未被消解变量化解的直接影响；以及代理歧视，即通过邮政编码或姓名等代理变量产生的影响 [2]。Russell 等人（2018）证明，基于观测数据的公平性判据无法区分直觉上不同的歧视情境，因此，任何有意义的公平性分析都需要因果假设 [3]。Pearl 的结构因果模型框架为这些方法提供了形式化基础：它用有向无环图表示因果关系，并用 do 演算来推理干预的影响。

这些方法的实际应用涉及多个领域。在刑事司法中，因果分析揭示，风险评估工具可能依赖逮捕地点或社会经济地位等与种族相关的代理变量。在招聘中，算法使用的大学声望、邮政编码，甚至写作风格等特征，都可能包含人口群体信息。在医疗领域，用医疗支出作为健康需求代理指标的预测模型，系统性地让黑人患者处于不利地位，因为即便他们的病情同样严重，过去花在他们医疗照护上的钱也更少。

一个关键的技术难点是，构建准确的因果模型需要领域知识，也需要对数据生成过程作出无法仅凭数据验证的假设。同一个变量联合分布，可能对应多种不同的因果结构，而这些结构对公平性的含义可能截然不同。这意味着，判断公平性不可避免地要对哪些路径合理作出价值判断，不能仅靠技术修正。

用因果方法分析公平性，面临一些实践和概念上的局限。第一，构建有效的因果模型需要大量领域知识，也需要对数据生成过程作出假设，而这些假设往往无法通过实证检验：同一组观测数据可能与多个不同的因果图相符。第二，对种族、性别这类根深蒂固的属性进行反事实推理，会遇到概念上的难题，因为很难为针对这些属性的干预给出有意义的定义。第三，在包含许多变量和相互作用路径的现实系统中，因果模型很快就会变得复杂，既难以准确设定，计算成本也很高。第四，判断哪些变量属于“消解变量”、哪些属于“代理变量”，涉及价值判断；不同情境、不同利益相关方的看法可能不同。对于什么才算合理的因果路径，并不存在纯技术层面的答案。最后，因果方法通常比纯统计方法需要更多数据和更强的假设；当关键变量无法观测，或我们对因果结构了解不足时，这些方法可能无法实施。