反事实公平与因果方法

可视化演示

展示结构因果模型DAG与反事实推理、公平性指标对比及路径专属公平与解决变量，支持三模式切换。

公平性基础

照相馆门廊上并排挂着三块木牌。第一块写着“统计公平”：男宾女宾的满意率一样，就是公平；第二块写着“个体公平”：两个模样相似的客人，出片效果一样，就是公平。老板摇摇头，敲了敲第三块空木牌：“前两块的毛病，在于它们都在比‘两个不同的人’。可人和人哪能一样？真正该问的是——同一个客人，如果从头再活一次，只是换了个出生时的‘出厂设定’，照片还会是同一张吗？”

“统计公平”在文献里叫 demographic parity，它要求不同受保护组获得正向结果（比如“通过面试”）的概率相等：“个体公平”则要求足够相似的个体得到足够相似的预测。设 $\hat Y$ 为模型输出（1 表示通过），$A$ 为受保护属性（出厂设定），统计公平写成：

这两类公平标准有一个共同软肋：它们只在“相关层”打转。比如某招聘数据里 A 组通过率低，可能根本不是 A 引起的，而是 A 与某个隐藏因素只是碰巧相关。统计公平要么把虚假相关错当成罪证，要么把合理的组间差异一并抹平。反事实公平换了一个更狠的提问方式——不去比“两组人平均下来是否一样”，而是问“让同一个人穿越到另一个出厂设定，预测会不会变”。这个视角从“比较人”转向“比较同一个人的平行版本”，才算摸到了“歧视”的因果本质。于是老板摘下前两块牌子，在第三块空牌上刻下：“即便改写出厂设定，评分台上的你也纹丝不动。”这台“如果相机”从此有了正式名字——反事实公平。

因果图模型

想要拍出靠谱的平行宇宙照片，相机里得先有一张“命运路线图”。这张图由圆圈和箭头组成：每个圆圈是一个人生变量，比如“出生地”“学历”“收入”；每条箭头表示“前者直接推动后者”，比如“学历→收入”。箭头不许回头——你不能让“收入”反过来决定“学历”，否则命运就成死循环了。这种图学名叫“有向无环图”，缩写 DAG。

图中的直接依赖关系用“父节点、子节点”描述，箭头连成的通道叫“因果路径”。真正让公平问题变得棘手的，是一种叫“混淆因子”的变量：它是多个变量的共同祖先，比如“成长环境”既影响一个人的群体归属，又影响他的收入。于是 A 与 Y 之间的相关，有一部分根本不是 A 的功劳，而是从共同祖先那里偷来的“后门路径”。要算出 A 对 Y 纯粹的因果效应，需要把后门路径上的混淆因子 Z 控制住：

这张“命运路线图”被老板挂在相机心脏的位置，旁边贴着一张便条：“图错一寸，照片假一尺。”因果图不是相关图，每一根箭头的方向都代表一个“拧一下会发生什么”的结构性断言。如果混淆因子漏画了，所谓平行宇宙只是另一个相关幻觉。

反事实推理

有了命运路线图，老板就可以拍摄平行宇宙照片了，操作分三步。第一步，把“出厂设定”A 从现实值 a 拧成目标值 a'；第二步，把 A 以外的前代变量（比如天赋、努力）原封不动地锁住；第三步，沿着路线图让被锁住的变量一路重算下去，得到新的照片。这张照片回答的是：“如果唯一的变动是 A，世界会有什么不同？”

在因果推理里，拧旋钮叫“干预”，写作 do(A=a)。它和“观察到 A=a”（也就是给定 A=a）有本质区别：do 会切断指向 A 的箭头，观察则任由原因流向 A。“看到一个人吸烟”和“强迫这个人吸烟”，对身体的因果含义完全不同。只有 do 带来的变化，才能归因于 A 自身。统计学家用“潜在结果”来刻画这种平行宇宙：对某个个体 U，把 A 强行设为 a 后 Y 的取值记作：

老板把洗出来的两版照片并排贴在展示墙上，一张叫“现实版”，一张叫“改写版”。他常说：“相机不预测未来，它只回答‘如果’。而公平，恰恰就藏在‘如果’这两个字里。”

反事实公平定义

现在把镜头对准 AI 本身。假设贷款申请人 Alice 被模型拒绝，我们想知道拒绝是否公平。传统做法是查模型里有没有性别字段——没有就算清白。老板摇头：“菜盘上没放辣椒，不代表汤里没有辣椒油。”Alice 的居住地、消费习惯、职业年限，都可能是她出厂设定的间接产物。真正的检查方式是：把 Alice 的出厂设定从 a 改成 a'，其他一切可观测的 X 和不变的 U 统统锁死，看模型还会不会给出同样的拒绝。这就是反事实公平的标准定义。用公式写出来是：

这个定义的力量很大：它不允许预测分布直接依赖 A，也不允许依赖任何携带 A 影响的中间变量。常见的落地技巧，是把可行特征限制在“A 的非后代”里，用隐藏能力 H 这类变量取代学历等可见特征。换句话说，反事实公平不是让模型“假装看不见 A”，而是让 A 的影响在因果结构上根本到不了预测。老板给相机定下验收标准：把两张并排照片放上评分台，台面必须严格水平——只要改写版与现实版的高度差出一个像素，就从零开始检查命运路线图。

因果公平方法

光说“不公平”不够，审计师还要回答“歧视从哪条路进来的”。出厂设定 A 影响预测 Y 有两条路：一条是直达车，A 直接改变 Y，这叫“直接效应”；另一条是转乘线，A 先改变中介 M（比如居住地、婚育状态），再由 M 改变 Y，这叫“间接效应”。这种按路径拆开测量效应的手段，就是路径特定效应分析。因果推理把两段路程写成总效应分解：

有了路径分解，修复就有了靶子。若间接效应过大，说明歧视在借中间变量渗透，应切断 A→M 的影响再重新训练；若直接效应过大，说明模型在赤裸裸地使用受保护属性，必须重设计特征。这个“按路径做手术”的过程，就是公平优化。老板修相机时最得意的一件事：不用把整台机器砸了，只要拿镊子夹住命运路线图上那根发红的线，轻轻剪断，平行宇宙的高度差立刻归零。

案例应用实践

照相馆的生意越做越大，开始接企业级“公平体检”订单。审计流程固定为五步：第一步，与业务方共建命运路线图，把受保护属性、可见特征、隐藏变量摆上桌面；第二步，检查数据里哪些特征其实是 A 的后代；第三步，训练或挑选一个只用非后代特征的候选模型；第四步，做反事实推断，对每个样本生成改写版预测；第五步，输出公平报告。

一家招聘平台的简历筛选模型曾被查出“性别→居住地址→入围分”的间接歧视——因为公司附近的老住户多为男性，男性求职者“住得近”的信号天然更多。反事实审计把性别从“女”改写为“男”，同一位候选人的入围分平均提高了 12 分。证据落地后，团队切断“居住地址→入围”路径并用非后代特征重训，差距从 12 分回落到 0.3 分。银行信贷也采用同一套方法：对每个被拒客户固定收入流水，把婚姻状态改写，违约分跳变超过阈值的申请全部转入人工复核。具体到代码，反事实预测可以按下式生成：固定隐藏能力 H，改写 A 后重算可见特征：

老板把每一份体检报告都装帧成册，首页印着那句话：“我们不是保证模型没有偏见，而是保证你亲眼看过另一个宇宙里同一个人的结局。”

挑战与边界

如果相机有时也会说谎，那一定发生在三个环节：第一，命运路线图画错，遗漏了某个共同祖先；第二，隐藏变量根本测不到，只能靠假设；第三，“公平”是不是该牺牲一点“效率”——这是价值观问题，不是数学问题。反事实公平最受欢迎的一条实用结论是：预测器想满足定义，输入特征必须与 A 的“辐射范围”完全绝缘：

可“非后代特征”常常包含未观测变量，完全依赖数据观测并不现实。行业标准做法是敏感性分析：把隐藏混淆的强度假设成一个区间，看公平结论在最大扰动下是否依然成立，就像老板调相机的“宽容度旋钮”。数值再大，数据再多，都替代不了未观测变量本身。老板在相机底座上刻了一行小字：“我不是神谕，我只是一张更诚实的地图。地图外的世界，请保持怀疑。”

AI 应用场景

Python 演示

import numpy as np  def simulate(n=5000, seed=42):    """Generate data from a simple causal model.     H: hidden qualification (latent variable, non-descendant of A)    A: protected attribute, e.g. gender coding 0/1    X: visible feature, a descendant of A, e.g. address score    """    rng = np.random.RandomState(seed)    H = rng.normal(0, 1, n)    A = 0.3 * H + rng.normal(0, 0.5, n)    X = 0.8 * H + 0.7 * A + rng.normal(0, 0.5, n)    return H, A, X  def pred_use_A(X, A):    """Predictor that illegally uses the protected attribute."""    return 1.5 * X + 2.0 * A  def pred_use_X(X, A):    """Predictor that only uses the descendant feature X."""    return 1.5 * X  def pred_use_H(H, A):    """Fair predictor that only uses the non-descendant latent H."""    return 1.5 * H  def counterfactual_X(H, A_new):    """Feature X under do(A=A_new), with H held fixed."""    return 0.8 * H + 0.7 * A_new  def audit(threshold=0.05, n=5000, seed=42):    H, A, X = simulate(n, seed)    ones = np.ones(n)    zeros = np.zeros(n)    # candidate predictors: use A / use X / use H    candidates = [        ("use protected A", pred_use_A, counterfactual_X),        ("use descendant X", pred_use_X, counterfactual_X),        ("use latent H", pred_use_H, lambda H_, a: H_),    ]    for name, model, feat_fn in candidates:        pred_0 = model(feat_fn(H, 0.0), zeros)        pred_1 = model(feat_fn(H, 1.0), ones)        gap = np.abs(pred_1 - pred_0).mean()        verdict = "fair" if gap <= threshold else "UNFAIR"        print("%-22s gap=%.4f -> %s" % (name, gap, verdict))  if __name__ == "__main__":    audit()

1. A = 0.3 * H + rng.normal(0, 0.5, n)受保护属性 A 与隐藏能力 H 同源，H 是两者的共同祖先（混淆因子）。
2. X = 0.8 * H + 0.7 * A + rng.normal(0, 0.5, n)可见特征 X 被 A 直接影响，所以 X 是 A 的“后代特征”。
3. return 1.5 * X + 2.0 * A这个预测器直接把出厂设定 A 写进公式，是赤裸裸的歧视路径。
4. def counterfactual_X(H, A_new)平行宇宙重算函数：锁住 H，只改写 A。
5. return 0.8 * H + 0.7 * A_new按结构方程重算 A 改写后的特征 X，等价于给模型喂“改写版照片”。
6. pred_0 = model(feat_fn(H, 0.0), zeros)生成 A=0 世界的预测分布。
7. gap = np.abs(pred_1 - pred_0).mean()两个宇宙预测差的平均幅度，即公平缝隙。
8. lambda H_, a: H_公平模型的“特征提取器”：直接把非后代变量 H 端给预测函数，绕开所有 A 的辐射。

常见误区

面试题