结构因果模型(SCM)在算法决策中的应用

可视化演示

展示SCM有向无环图结构、do演算干预效果评估及反事实公平推理三种核心因果分析模式。

因果图：流水线的工艺蓝图

甜心蛋糕厂的墙上挂着一张工艺图：鸡蛋、面粉、糖从原料仓库出发，经过搅拌、烘烤、裱花三道工序，最后变成蛋糕。图上的箭头方向一目了然——糖量指向甜度，甜度指向好评。你要是把箭头画反了，整个工厂的管理就全乱套了。这张“谁影响谁”的工艺图，就是结构因果模型的第一块积木。

在算法决策里，这张图叫有向无环图（DAG）。每个节点是一个变量——信贷场景里可能是收入、学历、还款能力；每条有向边表示“上游变量直接改变下游变量”。注意箭头是单行道，而且整张图不允许有环，因为现实世界的因果不会莫名其妙回到过去。图里那些没有父节点、由外部因素直接决定的变量，我们叫外生变量；那些被图内变量按照“配方”生成出来的，叫内生变量。

光有图还不够，SCM 还给每个节点配了一条“配方”——结构方程。它规定：这个变量的值 = 父节点值的某种函数 + 随机扰动。扰动代表工序里无法观测的波动，比如当天糖的品质不稳定。有了配方，工程师就能在数据里还原“收入是怎么从学历和性别里长出来的”。

有了这张工艺图和每道工序的配方，厂长就能在纸面上推演整个流水线；同样，算法工程师也能在数据里还原“收入怎么生成、还款又受谁影响”。有了这张图，后面关于干预和公平的所有讨论，才算有了地基。

do演算：伸手固定一道工序

厂长听传闻说“少放糖的蛋糕更好卖”。他不能直接拿超市里甜蛋糕和不甜蛋糕的销量对比——因为甜蛋糕往往用了进口奶油，卖得好是整体配方升级的结果，不赖糖。要得到真答案，他必须亲自走下产线，把糖量旋钮钉死在低位，其他工序一律不动，再观察销量变化。这个动作，和“挑出那些恰好不太甜的蛋糕看销量”完全是两回事。

在 SCM 里，“亲手固定旋钮”写作 do(X=x)。它和“看到 X=x”（条件概率）有本质区别：条件概率是被动筛选样本，do 是主动干预因果机制。执行 do 操作时，所有指向 X 的箭头都会被剪断——因为此刻 X 不再听上游的话，而是由你说了算。这就像你把糖罐从搅拌机上拆下来，自己往里面倒糖，原料仓库的波动再也影响不到糖量了。

可惜现实里很多干预没法直接做，比如你不能真的把全人类的性别改一遍再看信贷结果。这时就要请出后门准则：找到 X 和 Y 的共同祖先（混淆变量 Z），把它“按住不动”，再观察 X 对 Y 的净影响。这等价于把整条产线按原料批次分组，在同一批次内对比不同糖量的销量，批次差异就被抹平了。

do 演算就是厂长的手，后门准则就是帮他堵住“批次先混进去再说”的偷跑捷径。有了这把手术刀，像“把所有人的性别都改成男性会怎样”这种宇宙级的反事实问题，才有了严谨的答案。

公平三问：谁在真正偏心

质检部报告：女质检员的打分普遍偏低。立刻开除她？且慢——调查发现，女质检员分到的原料批次本来就差。到底是她偏心，还是批次在捣鬼？算法歧视的争论与这件事完全同构：当模型对女性申请者给出更差结果，我们得追问——是性别这个节点直接动了手脚，还是经由收入、学历等中间变量“绕路”把偏见运到了终点？

SCM 把歧视精确拆成两条路径。直接歧视：敏感属性到决策结果之间存在一条直接因果边，相当于师傅看到性别就当场压分；间接歧视：敏感属性先影响中间变量（收入），中间变量再影响决策（还款），偏见通过“收入”这个搬运工悄悄渗透进结论。路径分解就是把总效应拆成直接效应与间接效应之和，逐条审计每条边的责任。

在此基础上，反事实公平给出了最强的定义：把同一个人的敏感属性翻转，预测结果必须不变。注意，这跟“让男女通过率一样”是两码事——前者要求每个人的因果路径都不被性别改写，后者只要求群体数字平衡，甚至可能靠压合格者的分来凑数。因果图让我们能把“公平”这个模糊的口号，变成可以逐边检查的工程指标。

公平不是要求蛋糕切成完全相同的八块，而是要求切蛋糕的那只手不因为“你是谁”而发抖。因果图帮我们把发抖的手定位到具体某道工序——接下来就可以对症下药了。

信贷审批：重建信用流水线

银行本质上也是一家蛋糕厂：申请人是原料，审批模型是流水线，成品是“还款能力”评级。在这条流水线上，性别、学历是上游原料，收入是中间工序，还款是成品质检。监管部门真正关心的问题是：性别对“质检结论”到底动了多少手脚？是光明正大地从性别直接压分，还是偷偷通过收入绕了一圈？

建模分三步走。第一步，请信贷专家画出 DAG：哪些变量直接影响哪些变量，箭头方向是什么；第二步，用历史数据拟合每道工序的结构方程，比如“收入 = 系数1×学历 + 系数2×性别 + 噪声”，“还款 = 系数3×收入 - 系数4×性别 + 噪声”。注意那条从性别直指还款的边，就是需要重点审计的敏感边；第三步，用 do 演算评估干预效果。

具体做法是：对全部样本执行 do（性别=男） 和 do（性别=女），比较两组成品分布的差异，得到性别对还款的总效应；再堵住“性别→还款”这条直接边，只保留“性别→收入→还款”的间接通道，对比两轮结果的差，就能算出直接效应。如果直接效应显著不为零，说明模型存在直接歧视——就像老师傅看到是谁做的蛋糕就直接打低分，必须剪掉这条边或重训模型。

信贷厂长最怕的不是蛋糕卖不好，而是“看人下菜”被曝光。SCM 给出的反事实合规报告，等于把每个工序的偏心程度打印成账单：直接效应多少、间接效应多少、修完还剩多少，一目了然。

招聘决策：审计简历传送带

招聘是另一条流水线：简历是原料，能力测评是质检工序，入职与晋升是成品。简历初筛模型经常被质疑“名校歧视”“地域歧视”，但真实的因果链往往更隐蔽：毕业院校影响第一份工作，第一份工作影响技能积累，技能影响绩效，绩效影响晋升——偏见可能藏在这条长长的传送带上任何一个环节。

代理路径识别是审计的第一步。居住小区、兴趣爱好、姓名用字这些特征，本身与绩效没有直接因果，却与敏感属性高度相关，能构成“性别→小区→通勤时长→绩效”这类绕路通道。因果审计要做的，是沿着 DAG 逐条路径做“切除实验”：删掉某条边之后，敏感属性对结果的传递效应是否显著下降？下降最多的边，就是偏心最重的工序。

公平修复也不是简单删特征——删掉性别字段只是摘掉了牌子，传送带还在。更稳妥的做法是：在结构方程里把敏感属性的系数清零，堵住直接边；或者把中介变量换成因果上合法、与敏感属性无关的替代工序；最彻底的是用反事实生成器给每个候选人造一个“性别翻转版本”，把它和原版本一起喂给模型，强制两者输出一致。

招聘流水线要保证的是“同样能力的人，无论从哪条传送带进来，成品等级都一样”。因果图让隐藏的偏心工序无处遁形，这才是算法招聘真正可信的地基。

反事实推理：重播平行时间线

一盒不合格的蛋糕被退回，老师傅盯着裱花台叹气：“如果当时没让实习生上手，这蛋糕会不会合格？”这个“如果当时”的问题，就是反事实推理。它问的不是“现在能做什么”，而是“另一个平行世界本来会发生什么”。算法拒绝了一位申请者，用户最想知道的也正是这句“如果……”。

SCM 给出了标准三步法。第一步外推（Abduction）：用观测数据反推每个人身上的外生噪声，相当于还原当天每道工序的隐藏波动；第二步干预（Action）：把目标变量强制改成假设值，比如把性别改成另一种；第三步预测（Prediction）：拿着改过的变量，沿着结构方程把流水线重放一遍，得到反事实结果。三步缺一不可，顺序也不能乱。

反事实推理给算法决策装上了“后悔药制造机”：当系统拒绝一位申请者，你可以告诉他“如果你的收入达到某个值，结果就会反转”——这是最小改动建议，比一句“模型判的”有说服力得多。它不承诺完美，却承诺诚实，诚实到能说出差在哪一道工序、差多少。

工程落地：把因果图搬进产线

图纸再美，也要变成量产。把 SCM 搬进真实算法系统的第一步，是构建因果图：以领域专家知识为主干——信贷专家、HR 业务方最清楚变量之间到底谁影响谁——再用因果发现算法和敏感性分析做交叉校验，避免漏掉关键混淆变量或画反箭头方向。这一步错了，后面所有审计结论都会跟着错。

第二步是数据与模型配套。结构方程的系数要用可解释的估计方法拟合，比如线性回归或非参数估计；要检查数据是否存在测量误差和采样偏差；干预效果要报告置信区间，而不是一个孤零零的数字。目前 DoWhy、CausalNex 等开源工具链已经把 DAG 建模、do 演算、反事实估计封装成了标准流水线，工程师不需要从零造轮子。

挑战同样真实：未观测的混淆变量无法从数据里完全排除；分布漂移会让学到的因果系数慢慢过期；因果图的错误假设会传导到所有下游审计结论。所以工程上要持续做敏感性分析和 A/B 验证，把因果结论当成“可证伪的假设”，而不是“最终判决”。

甜心蛋糕厂的经验告诉我们：真正可靠的产线，既要有好图纸，也要有质检员每隔一段时间重新校准工艺参数。SCM 落地同样如此——它不会一劳永逸地消灭偏见，但给了我们一张可以不断修正的因果地图。

AI 应用场景

Python 演示

import numpy as np  class LoanSCM:    """Credit approval causal pipeline:    Z(family)->E(edu), E->M(income), E->Y(repay),    A(gender)->M(income), A->Y(sensitive edge), M->Y(repay).    """     def __init__(self, n=5000, seed=42):        self.n = n        self.rng = np.random.default_rng(seed)     def generate(self):        n = self.n        rng = self.rng        z = rng.normal(0, 1, n)          # 家庭背景        a = rng.binomial(1, 0.5, n)      # 性别        u_e = rng.normal(0, 1, n)        # 学历噪声        u_m = rng.normal(0, 1, n)        # 收入噪声        u_y = rng.normal(0, 1, n)        # 还款噪声        e = 0.8 * z + u_e                # 学历 = f(家庭背景, 噪声)        m = 1.0 * e + 0.9 * a + u_m      # 收入 = f(学历, 性别, 噪声)        y = 0.7 * z + 0.5 * e + 0.6 * m - 0.4 * a + u_y  # 还款 = f(...)        return z, a, e, m, y, u_m, u_y     def counterfactual_repay(self, z, e, u_m, u_y, target_a):        m_cf = 1.0 * e + 0.9 * target_a + u_m        y_cf = 0.7 * z + 0.5 * e + 0.6 * m_cf - 0.4 * target_a + u_y        return y_cf     def backdoor_adjust(self, z, e, y):        cut = np.searchsorted(np.percentile(z, [25, 50, 75]), z)        med = np.median(e)        adj = 0.0        for k in range(4):            mask = cut == k            w = mask.mean()            gap = y[mask & (e >= med)].mean() - y[mask & (e < med)].mean()            adj += w * gap        return adj  def main():    scm = LoanSCM()    z, a, e, m, y, u_m, u_y = scm.generate()    naive_edu = y[e >= np.median(e)].mean() - y[e < np.median(e)].mean()    adj_edu = scm.backdoor_adjust(z, e, y)    y_cf = scm.counterfactual_repay(z, e, u_m, u_y, 1 - a)    unfair = (np.abs(y_cf - y) > 0.5).mean()    ate = (scm.counterfactual_repay(z, e, u_m, u_y, 1).mean() -           scm.counterfactual_repay(z, e, u_m, u_y, 0).mean())    print("naive education gap:", round(naive_edu, 3))    print("backdoor adjusted edu effect:", round(adj_edu, 3))    print("gender do-effect (ATE):", round(ate, 3))    print("counterfactual unfair rate:", round(unfair, 3))  if __name__ == "__main__":    main()

1. class LoanSCM:把整条“蛋糕流水线”封装成一个对象，每个工序的配方（结构方程）都写在里面。
2. z = rng.normal(0, 1, n)生成家庭背景这个混淆变量，它同时影响学历和还款，是后门路径的源头。
3. m = 1.0 * e + 0.9 * a + u_m收入这道工序的配方：由学历、性别和随机噪声共同决定。
4. y = 0.7 * z + 0.5 * e + 0.6 * m - 0.4 * a + u_y还款工序的配方，其中 -0.4 * a 就是那条待审计的敏感边。
5. def counterfactual_repay(self, z, e, u_m, u_y, target_a):反事实重放：把性别换成目标值，噪声保持原样，只改一件事。
6. cut = np.searchsorted(np.percentile(z, [25, 50, 75]), z)把混淆变量家庭背景分成四等份，为后门调整做准备。
7. unfair = (np.abs(y_cf - y) > 0.5).mean()统计有多少人因性别翻转而还款结果大幅改变，即反事实不公平率。

常见误区

面试题