大语言模型在因果推理上的能力边界

可视化演示

动态演示大语言模型在因果推理上的能力的核心机制，通过开始/执行/监控/完成四种模式展示关键概念与交互流程。

相关性≠因果

林探长桌上的案件卷宗里，两个数字总是一起出现：全市打伞人数抬头，路面湿滑投诉量也跟着抬头。AI 助手小言飞速给出结论：“打伞导致路面湿滑。”林探长却拿起钢笔，把结论划掉。他明白，一起出现的线索不等于一条作案因果链。侦探要问的是：如果我强制让每个人都打伞，路面会湿吗？这才叫因果。

统计上，“相关”描述的是两个变量共同变化的规律；“因果”则要求在干预一个变量之后，另一个变量的变化可被观测。LLM 接受的训练资料以自然语言为主，日常文本中“因为……所以……”的表达比比皆是，但严谨的随机对照实验记录却极其稀少。于是模型很容易把语料里的共现统计当成世界法则。

用记号来表达：X 表示“打伞”，Y 表示“路面湿滑”。观察到 X 时 Y 的概率写作 $P(Y|X)$；而强制所有人打伞后 Y 的概率写作 $P(Y|do(X))$。两者一般不等。

侦探的经验是：嫌疑人频繁出现在案发现场附近，并不等于他就是凶手。LLM 就像一位只看过案卷的实习生，它把“在场”当成了“动手”，这正是相关性误判为因果的剧情。

混杂因子识别

接着，林探长查出当天全市确实下了一场大雨。这场雨让更多人打伞，也让路面湿滑。也就是说，“下雨”同时影响了“打伞”和“路面湿滑”，制造了一场虚假关联。这个躲在后面的第三变量，就是统计学家口中的“混杂因子”。

LLM 在处理文本时，往往只会把字面上出现的变量联系起来。如果卷宗里没写到“下雨”，小言就完全看不到它；即使语料里提到下雨，模型也未必知道要把雨当作需要控制的变量。因为自然语言中变量间的逻辑关系很少用“混杂”这种结构来描述。

因果推断里，有一种方法可以把混杂因子的影响拆出来：后门调整。如果 Z 是满足条件的混杂因子，那么 X 对 Y 的因果效应可以通过对 Z 的各个取值做加权平均来估计。

侦探破案时最怕漏掉那个“不在场证明”的关联人。雨就是这种角色：它不在当事人的叙述里，却在幕后牵线。LLM 的困境正在于，它没有现场勘查能力，只能依赖卷宗中是否有人提到过这场雨。

反事实推理

林探长深夜复盘一个旧案子：如果案发当晚，嫌疑人没有走那条巷子，受害人还会出事吗？这个问题无法用现有数据直接回答，因为现实里嫌疑人已经走了那条巷子。这种“如果当初不这么做，结果会怎样”的推理，就是反事实推理。

LLM 非常擅长编造流畅的平行世界故事。给它一句“如果我没打伞”，它能自动补全“那么我可能淋湿了”。但这种输出是语言模型的概率联想，不是对因果机制的稳定计算。换一个更复杂的反事实，比如“如果雨停了但湿度不变”，模型就可能给出自相矛盾的答案。

用反事实因果的语言：Y_{X=0} 表示“在 X 被设为 0（不打伞）的世界里，Y 的结果”；我们想在已知现实“打了伞且淋湿了”的条件下，估计这个结果。

侦探必须依赖对作案机制的建模，才能推断“如果当初”的剧情。小言虽然能写出声情并茂的“反事实复盘”，但它的大脑里只有词语连接，没有那套稳定运转的“世界引擎”。

因果发现局限

林探长想从过去十年的卷宗里找出“到底谁影响了谁”。比如“作息混乱”与“脱发”之间，是前者导致后者，还是另有原因？这种从数据中反向推导因果结构的工作，叫“因果发现”。

因果发现的理想方式，是在所有可能的因果图里找一个得分最高的图 G，用数据 D 来衡量谁更合理。但 LLM 不直接做这种搜索。它没有观察数据，只能从文本里抓取变量间的共现频率；它可能会把出现次数最多的“A 导致 B”当成真相，哪怕 A 和 B 之间根本没有因果箭头。

形式化地看，因果发现是在候选图空间中优化一个结构得分：

侦探重构时间线时最忌讳“谁常出现就画谁的箭头”。小言把共现关系当成因果证据，就像把两个常在同一酒吧出现的人当成同伙，却忘了背后可能有一个没写进卷宗的“中间人”。

数据偏差与幻觉因果

小言还有一个毛病：它的“卷宗库”来自互联网语料，而语料里某个因果说法出现得越频繁，它就越容易当作正确答案。如果媒体长期写“熬夜导致脱发”，那么即使现实中脱发主要是年龄和基因造成的，模型也会优先输出“熬夜导致脱发”。

这种由训练数据偏差带来的因果误判，经常表现为“幻觉因果”：模型用非常自信的口吻，把语料里高频的相关性包装成因果结论。它不是故意说谎，而是在根据下一个词的概率补全一个听起来最合理的故事。

在语言模型中，模型对“原因是什么”的判断可以视为在所有候选原因中选择概率最大的那个：

林探长的老搭档常说：“热门传闻不等于案件真相。”小言的知识库里热门传闻数量巨大，于是它经常自信地给出一个“听起来很对”的因果答案，却拿不出任何现场实验证据。这就是幻觉因果的本质。

上下文补偿

为了救救这个爱下结论的助手，林探长试着在小言的输入里塞进几个标准案例，比如：“下雨导致路面湿滑；下雨导致打伞人数增加；所以不能把打伞和湿滑当成直接因果。”小言听完后，确实在类似的题上表现好了很多。这种方法叫“上下文学习”或“小样本提示”。

上下文学习为什么能缓解问题？因为模型可以从示例中临时校准自己的输出风格，把当前任务的回答方式向示例对齐。可这并不等于模型学会了因果推理。如果林探长把案件换成完全不相关的领域，比如“股票涨跌与公司注册数量”，小言又会立刻回到老路子，把相关性说成因果。

从概率角度看，上下文学习只是改变了条件概率中的“额外条件”：

侦探现场给新手演示几次标准办案流程，新手会学得很快；但若把他扔到完全陌生的案件里，他又会凭直觉乱猜。上下文学习的补偿作用是真实的，同时也是有限的。

评估与边界

最后，林探长要给小言做一次“结业考试”。他准备了一批标准答案，让模型逐题回答，再算它答对的比率。这个指标就是分类准确率。但仅有准确率远远不够，因为因果推理更考验“换了说法还能不能站稳”。

可靠的评估应当包括稳健性检验：把问题换一种措辞，把上下文示例换一个顺序，把反事实场景改成近义表达，看看 LLM 是否还能给出相同结论。如果答案来回摇摆，说明模型只是在拟合表面模式，而不是在做稳定的因果推理。

设测试集有 N 道题，模型预测为 \( \hat{y}_i \)，标准答案是 \( y_i \)，用指示函数 \( \mathbb{I}(\cdot) \) 统计答对次数：

林探长最后在结案报告里写道：小言是个极好的“线索收集员”，但还不是“因果裁定人”。它能快速给出候选假设、补全反事实故事、发现文本中的关联，却缺少主动干预、混杂控制和稳定世界模型的能力。我们只有把模型放在“假设生成者”的位置，让人来完成“实验验证者”的职责，才能真正发挥大模型的价值。

AI 应用场景

Python 演示

import mathimport random def pearson(x, y):    n = len(x)    mx = sum(x) / n    my = sum(y) / n    cov = sum((xi - mx) * (yi - my) for xi, yi in zip(x, y))    vx = sum((xi - mx) ** 2 for xi in x)    vy = sum((yi - my) ** 2 for yi in y)    return cov / math.sqrt(vx * vy) def partial_corr(x, y, z):    rx = pearson(x, z)    ry = pearson(y, z)    rxy = pearson(x, y)    num = rxy - rx * ry    den = math.sqrt(max((1 - rx * rx) * (1 - ry * ry), 1e-12))    return num / den def main():    random.seed(42)    n = 1000    temp = [random.gauss(20, 5) for _ in range(n)]    ice = [2 * t + 15 + random.gauss(0, 10) for t in temp]    drown = [1.5 * t + 8 + random.gauss(0, 10) for t in temp]     print("冰激凌销量与溺水人数相关系数:", round(pearson(ice, drown), 3))    print("控制气温后偏相关:", round(partial_corr(ice, drown, temp), 3))    print("结论: 高相关不一定是因果, 可能来自混杂因素") if __name__ == "__main__":    main()

1. temp = [random.gauss(20, 5) for _ in range(n)]模拟未观测到的“气温”混杂变量。
2. ice = [2 * t + 15 + random.gauss(0, 10) for t in temp]让冰激凌销量由温度驱动，叠加随机噪声。
3. drown = [1.5 * t + 8 + random.gauss(0, 10) for t in temp]让溺水人数也由温度驱动，与冰激凌没有直接因果。
4. cov = sum((xi - mx) * (yi - my) for xi, yi in zip(x, y))计算协方差，用于求相关系数。
5. return cov / math.sqrt(vx * vy)皮尔逊相关系数标准化。
6. num = rxy - rx * ry偏相关公式的分子，扣除混杂变量带来的间接相关。
7. den = math.sqrt(max((1 - rx * rx) * (1 - ry * ry), 1e-12))分母项用 1e-12 防止除零。
8. print("结论: 高相关不一定是因果, 可能来自混杂因素")点明 LLM 容易忽略的因果推断关键。

常见误区

面试题