反事实公平性：平行世界的分身实验

可视化演示

三步展示反事实公平性：翻转受保护属性构造反事实个体检验预测一致性、统计公平DP与反事实公平CF的差异、因果DAG审计检测歧视路径并阻断。

反事实思维：平行世界的分身实验

你是评审委员会的新任技术顾问，面前坐着一位落选的女性候选人。你无法让她真的重新以男性身份参加一次评审，但你可以做一个思想实验：创造一个平行世界，那里有一个“分身”，性别不同，其他所有属性——学历、业绩、项目经历——都与她逐一对应。这个思想实验，就是反事实推理的雏形。

在统计学里，这种“如果当初……会怎样”的追问被称为反事实（counterfactual）。要把它变成严谨的工具，需要区分两个动作：一个是“条件”（conditioning），即观测到某类人已经具备某种属性；另一个是“干预”（intervention），即主动把一个属性改写为另一个值。反事实关心的是后者——不是“女性群体表现如何”，而是“如果这位女性被设定为男性，她个人的结果会怎样”。

因果推断中的潜在结果（Potential Outcome）框架为这种追问提供了记法。对个体 \(i\)，假设受保护属性 \(A\) 可以被干预为某个取值 \(a\)，那么 \(Y_i(a)\) 就表示“若 \(A_i=a\) 时的潜在结果”。我们永远只能观测到其中一个版本——现实世界的事实结果——而另一个版本必须靠因果模型推算。

所以“如果我是男性，结果会不会不同”这句话，翻译成潜在结果语言就是比较 \(Y_i(\text{男})\) 与 \(Y_i(\text{女})\)。遗憾的是，同一个人的两个版本永远不会在同一天出现在评审室，这正是反事实推理存在的意义——用模型把那个缺席的分身请回来。

公平性定义：两个分身的命运一致

现在我们手里有了分身实验这把尺子，接下来定义“公平”。想象你把分身实验制度化：每次评审，AI不仅要给候选人打分，还要额外生成一份“反事实报告”，报告里写着“若性别设定互换，推荐结果：晋升/不晋升”。那么公平的标准就呼之欲出——两份报告应当给出相同的结论。

这个直觉在2017年被Kusner等人形式化为“反事实公平性”（Counterfactual Fairness）。它要求：对任意个体，保持其他可观测属性不变，仅将受保护属性 \(A\) 从一个取值干预为另一个取值，模型预测结果的概率分布应当完全一致。

记模型在干预 \(A \leftarrow a\) 后的预测为 \(\hat{Y}_{A \leftarrow a}\)，\(X\) 为其他可观测特征。反事实公平的定义式如下：

这个定义把“分身实验”变成了数学公式：左边是“女儿身的分身”，右边是“男儿身的分身”，两条命运曲线必须完全重合。而一旦出现偏离，这份反事实报告本身就是一种可解释输出——它告诉你“因为你的性别被改写，结果从录取变成了拒绝”，这正是反事实解释在XAI家族中的独特价值。

因果路径检测：顺着因果图找歧视管道

但公平审计远没有“按下性别按钮、对比结果”这么简单。想象你家水管系统：性别这个“阀门”并不直接连到最终出水口，而是先流经“工作时长”“项目类型”等中间水箱，再由它们汇入最终分数。这些水箱之间藏着一条条管道，歧视可能顺着某条管道悄悄流动。

因果图（DAG）把管道画成箭头：\(A \to \hat{Y}\) 是直接路径，代表赤裸裸的“因为你是女性所以不打分”；\(A \to Z \to \hat{Y}\) 是间接路径，性别先影响中介变量 \(Z\)（比如工作时长），再通过 \(Z\) 影响结果。即使模型公式里没有“性别”二字，只要中介变量进了模型，性别就能借道潜入。

除了这两种路径，还要警惕“混淆因子” \(W\)——它既影响 \(A\) 又影响 \(Y\)（比如候选人所在城市同时影响其性别构成和薪资水平），不控制 \(W\) 就会把虚假关联当成因果。审计的核心，就是识别所有从 \(A\) 出发的路径，并判断它们是否承载了歧视性信息。总因果效应可以分解为两条路径的贡献：

排查歧视不能只盯着“性别”按钮，而是像水管检修员一样，顺着因果图检查每一条从阀门出发的管道——哪里有水渍，哪里就有问题。找到问题管道后，可以用“路径阻断”来干预：要么移除中介变量，要么在因果图上截断歧视箭头，这正是后续模型整改的依据。

统计公平对比：只看平均数的陷阱

很多公司会说：“我们的AI很公平，你看男性和女性的平均录取率差不多。”这话听起来有道理，但平均数的把戏往往最骗人。想象两座城市平均身高相同，可一座城市每个人都一米七，另一座却是一米五和一米九的混合体——平均相同，命运迥异。

传统统计公平指标，如人口均等（Demographic Parity）和机会均等（Equal Opportunity），都是这类“平均身高”式检查：它们只看群体层面的概率分布是否一致。人口均等要求两个组的正向预测率相等，即：

这类指标容易通过“压制信息”被廉价满足——系统可以故意压低某些高分组的预测、抬高另一些低分组的预测，从而拉平比例，但个体层面可能已经乱成一团。反事实公平则不同：它不满足于“两座城市平均身高一样”，而是要求“每个市民和他的分身一样高”。这也是“辛普森悖论”的教训——整体比例平均，不代表每个子群都公平。统计公平回答的是“群体之间是否相关”，反事实公平回答的是“因果机制是否公允”。

结构因果模型：制造分身的机器

前面说了这么多“分身实验”，到底靠什么机器来造分身？答案是结构因果模型（Structural Causal Model, SCM）。你可以把它想象成一台“造人机”：输入一位真实候选人的数据，它能在另一个平行世界里，产出一个与候选人直接对应、只是某些设定被改写的分身。

SCM由两部分组成：因果图告诉你“谁影响谁”；结构方程告诉你“影响多少”。例如，设 \(A\) 为性别，\(E\) 为工作时长，\(Y\) 为面试分数。因果图是 \(A \to E \to Y\)，同时 \(A \to Y\)；结构方程则写成：

\(U_E\) 和 \(U_Y\) 就是“个体噪声”。反事实推演有三步：第一步“外推”（abduction），根据观测 \(A=a, E=e\) 反推出此刻的噪声 \(u_e\)；第二步“干预”（action），把 \(A\) 改写为目标值 \(a'\)，代入方程重算 \(E\)；第三步“预测”（prediction），用新的 \(A\) 和 \(E\) 算出反事实 \(Y\)。三步合起来，就把“如果性别不同，你的工作时长和分数会是多少”算了出来。这台造人机最精妙的地方在于它冻结了个体噪声——分身不是随机路人甲，而是“另一个设定下的我自己”。

实践应用：给AI系统做分身体检

现在，请你把“分身实验工具箱”装进公文包，去给AI系统做一次年度体检。作为负责任AI团队的成员，你的任务不是重新训练模型，而是审计它是否在招聘、信贷等高风险场景中隐含着歧视。

标准审计流程分三步：第一步，为模型涉及的变量构建并拟合SCM；第二步，对测试集中每个受保护群体的个体生成反事实样本——即把 \(A\) 从 \(a\) 改成 \(a'\)，其余按结构方程重算；第三步，比较模型在事实样本与反事实样本上的预测差异，并汇总成指标。如果平均绝对差异超过业务阈值 \(\epsilon\)，就判定存在反事实不公平：

这套流程已经落地为“红队测试”的标准动作：审计团队在模型上线前扮演攻击者，用反事实样本探测模型的歧视底线。在招聘场景中，它发现了“工作时长”这条隐蔽的中介路径；在信贷场景中，它甄别出“居住区域”承担的间接歧视。报告最终会写下一行结论：“您的系统对100位女性候选人进行了分身实验，平均差异0.41，远超阈值0.05。”——这不是魔法，而是反事实公平性赋予AI审计师的一双“透视因果”的眼睛。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.linear_model import LinearRegression # ------ 模拟数据: 真实世界结构 ------rng = np.random.RandomState(42)n = 500A = rng.binomial(1, 0.5, n)             # 受保护属性: 0=女, 1=男E = 25 + 15 * A + rng.normal(0, 4, n)   # 工作时长: 受A影响Y = 40 + 10 * A + 1.5 * E + rng.normal(0, 3, n)  # 面试分数 # ------ 第1步: 拟合结构方程 ------model_e = LinearRegression().fit(A.reshape(-1, 1), E)model_y = LinearRegression().fit(np.column_stack([A, E]), Y) # ------ 第2步: 反事实推演(外推 -> 干预 -> 预测) ------def counterfactual_y(a_fact, a_cf, e_fact):    u_e = e_fact - model_e.predict([[a_fact]])[0]   # 外推: 还原噪声    e_cf = model_e.predict([[a_cf]])[0] + u_e       # 干预: 重算E    y_cf = model_y.predict([[a_cf, e_cf]])[0]       # 预测: 反事实Y    return y_cf # ------ 第3步: 群体审计 ------women = np.where(A == 0)[0]diffs = []for i in women:    y_real = model_y.predict([[A[i], E[i]]])[0]    y_cf = counterfactual_y(A[i], 1, E[i])    diffs.append(y_cf - y_real) mean_diff = float(np.mean(diffs))print("女性群体: 将性别改为男性后, 面试分数平均变化 %.2f 分" % mean_diff)if abs(mean_diff) > 3:    print("结论: 存在反事实不公平, 性别直接影响预测结果")else:    print("结论: 模型满足反事实公平")

1. E = 25 + 15 * A + rng.normal(0, 4, n)生成中介变量，模拟“性别影响工作时长”的因果结构
2. model_e = LinearRegression().fit(A.reshape(-1, 1), E)拟合第一条结构方程：从性别到工作时长
3. u_e = e_fact - model_e.predict([[a_fact]])[0]外推：从观测值反推出该个体独有的噪声
4. e_cf = model_e.predict([[a_cf]])[0] + u_e干预：改变性别后，用原噪声重算工作时长
5. y_cf = model_y.predict([[a_cf, e_cf]])[0]预测：用反事实的性别和工作时长算出反事实分数

常见误区

面试题