因果森林：异质效应

可视化演示

展示ATE与HTE的本质区别、CATE函数随协变量变化及子群体方向反转，支持敏感度调节。

平均效应局限

林大夫把药发给 100 位病人，最后统计：平均疗效 0.3 分，看起来“有点用但不多”。可当他翻看诊簿时愣住了：年轻组平均涨了 8 分，老年组平均掉了 5 分，两组一平均，居然约等于 0.3。这就好比把一位游泳健将和一只旱鸭子关进同一个泳池，然后宣称“平均游得还不错”——平均数把天堂和地狱揉在了一起，形成一种危险的幻觉。

在因果推断里，这种“全体平均”叫平均处理效应（ATE）。它的公式很简单：把吃药组的平均结果减去不吃药组的平均结果。

回到林大夫的诊室：如果只报平均值，他根本无法决定该不该给老人开药。平均值掩盖了异质效应，而发现“谁受益、谁受损”，才是因果森林的真正使命。

异质效应定义

林大夫把数据按“年龄大于 60 岁”分成两堆，发现效果差异极大。他意识到：药效不是一个固定数字，而是一个随人群特征变化的函数。为了描述“对某类特定人群 X=x 的平均效果”，因果推断引入条件平均处理效应（CATE）。

先设想每个人都有一对“平行世界的结果”：Y_i(1) 是吃药的结局，Y_i(0) 是不吃药的结局。现实中我们只看得到其中一个，但这不妨碍我们在数学上定义：个体因果效应就是两者之差。把这个差在“特征等于 x”的人群里求平均，就得到 CATE。

CATE 与 ATE 的区别，就像“全班平均分”和“留短发学生的平均分”：前者是全局视角，后者是局部视角。因果森林要估计的正是 \tau(x)，它随 x 变化，从而勾勒出“谁最该吃药”的完整地图。

决策树分群

要得到 CATE，最直接的想法是分群。林大夫的做法很朴素：先问“年龄是否超过 60”，再问“平时是否失眠”，每问一个问题，就把人群切成两半，让左右两组的平均疗效差异尽可能大。这在机器学习里叫递归二分。

关键问题是：怎么判断一次“问诊”好不好？因果树用的是“疗效异质性最大化”：如果按特征 c 分裂后，左右两片叶子的 CATE 分别为 \hat\tau_L 和 \hat\tau_R，那么好的分裂应当让它们相差悬殊。

这个准则很符合林大夫的直觉：他要的不是每边都“平均有效”，而是两边“疗效差距明显”，这样后续才能对不同的人给出不同建议。分群越切越细，人群被细化成一片片“脾气相投”的叶子。

森林构建

单棵决策树有个致命毛病——记性太好。训练数据里多一个极端病人，树的分叉可能就截然不同，统计上叫高方差。林大夫也发现，换个坐诊时间，来一群不同的病人，他的“问诊树”形状就大不一样，这让他不敢轻信。

随机森林的智慧是：既然一棵树不稳，那就种很多棵，让它们投票。每棵树用有放回抽样（bootstrap）得到不同的病人集合，每次分裂只随机挑选几个特征来问，故意让树之间“各持己见”，最后把 B 棵树的预测取平均，方差大幅下降。因果森林沿用这一思想，但把每棵树的目标从“预测 Y”改成了“估计 CATE”。

更进一步，因果森林通常使用“诚实估计”：用于决定树结构的样本与用于计算叶子内疗效的样本分开。就像林大夫用上半月的病人决定问诊顺序，再用下半月的病人来测每类人的真实反应，避免“先看答案再出题”式的过拟合。

效果估计

有了森林，如何从叶子中读出 CATE？最自然的做法是：把新病人沿着每棵树的“问题链”落到某片叶子，然后用这片叶子里的病人数据算“吃药平均减不吃药平均”。但直接做差在小样本里容易偏，因为叶子里吃药和不吃药的人可能不平衡。

更稳的做法是在叶子内做一个小型回归：把结果 Y 和是否治疗 T 都先减去各自在叶内的均值，再做“去中心化”的斜率估计。直觉是：先看这个病人和叶子平均水平的偏差，再看治疗状态与平均的偏差，两者协同变化的部分才是治疗带来的增量效果。

最后，把 B 棵树的 \hat\tau_b(x) 按树的权重聚合，就得到每个个体 x 的异质效应估计。林大夫终于可以指着每个人的“画像”说：你，该吃；你，别吃。

检验调优

森林给出的 CATE 只是一个估计，估计就可能有误差。林大夫不会因为一个数字就开药方，他还要看这个数字“稳不稳”。如果某片叶子只有 3 位病人，算出的疗效可能高达 20 分，但换个下午可能变成负 15 分——这种结果不值得信任。

因果森林通过方差估计给出置信区间：

调优还包括：控制叶子的最小样本量避免极端小叶子；用袋外数据评估泛化表现；计算变量重要性，看“年龄”和“收入”到底谁在驱动异质效应。林大夫把这些原则记在诊簿上：宁可少分几刀，也不凭噪声做判断。

应用落地

异质效应的终极问题是：面对一个具体的人，该不该给药？CATE 把人群按疗效排序后，就自然诞生了“最佳治疗规则”：比较治疗与不治疗的预测收益，谁大选谁。

这样一来，医疗不再“一药治百病”，而是按人下药；推荐系统不再“一刀切发券”，而是把优惠券发给那些不发券就不会买的人；扶贫资金也不再“撒胡椒面”，而是集中投给帮扶效果最大的家庭。因果森林把林大夫的分诊智慧变成了可规模化、可验证的算法，让每个决策都向“因人而异”迈进。

AI 应用场景

Python 演示

import random def cate(y, t):    ones = [v for v, tr in zip(y, t) if tr == 1]    zeros = [v for v, tr in zip(y, t) if tr == 0]    if not ones or not zeros:        return 0.0    return sum(ones) / len(ones) - sum(zeros) / len(zeros) def build_tree(x, y, t, idx, depth):    node = {'value': cate([y[i] for i in idx], [t[i] for i in idx])}    if depth == 0 or len(idx) < 20:        return node    best = None    for f in (0, 1):        for th in (0.25, 0.5, 0.75):            left = [i for i in idx if x[i][f] <= th]            right = [i for i in idx if x[i][f] > th]            if len(left) < 10 or len(right) < 10:                continue            cl = cate([y[i] for i in left], [t[i] for i in left])            cr = cate([y[i] for i in right], [t[i] for i in right])            score = (len(left) + len(right)) * (cl - cr) ** 2            if best is None or score > best[0]:                best = (score, f, th, left, right)    if best is not None:        _, f, th, left, right = best        node = {'feature': f, 'threshold': th,                'left': build_tree(x, y, t, left, depth - 1),                'right': build_tree(x, y, t, right, depth - 1)}    return node def predict_one(node, xx):    while 'feature' in node:        node = node['left'] if xx[node['feature']] <= node['threshold'] else node['right']    return node['value'] def train_forest(x, t, y, n_trees=30):    random.seed(7)    forest = []    n = len(x)    for _ in range(n_trees):        idx = [random.randrange(n) for _ in range(n)]        random.shuffle(idx)        idx = idx[:int(n * 0.6)]        forest.append(build_tree(x, y, t, idx, depth=2))    return forest def forest_predict(forest, x):    return sum(predict_one(t, x) for t in forest) / len(forest) def main():    random.seed(1)    n = 400    x = [[random.random(), random.random()] for _ in range(n)]    t = [1 if random.random() < 0.5 else 0 for _ in range(n)]    y = []    for xi, ti in zip(x, t):        effect = 4.0 if xi[0] > 0.5 and xi[1] > 0.5 else -1.0        y.append(ti * effect + random.gauss(0, 1))    forest = train_forest(x, t, y, 30)    for p in ([0.2, 0.2], [0.8, 0.8], [0.8, 0.2]):        print('age=%.1f income=%.1f -> predicted CATE = %.2f' % (p[0], p[1], forest_predict(forest, p))) main()

1. def cate(y, t)计算一组样本的平均处理效应：吃药组均值减不吃药组均值。
2. score = (len(left) + len(right)) * (cl - cr) ** 2分裂得分，鼓励左右叶子 CATE 差异最大化。
3. node = {'feature': f, 'threshold': th, 'left': ..., 'right': ...}递归构建因果树，叶子节点保存 CATE。
4. idx = idx[:int(n * 0.6)]袋装抽样：每棵树只用随机 60% 样本，增加树间多样性。
5. forest_predict(forest, x)让所有树对新样本分别预测 CATE，再取平均得到森林估计。

常见误区

面试题