设想一位刑侦老手接到新案。他扫一眼现场——窗户破了、抽屉被翻、值钱首饰还在——立刻判断：“八成是熟人作案，目标是一份文件。”这个判断来自他几十年翻阅的数百份卷宗。但他不会拿着这句话直接上法庭，而是先让鉴证科提取指纹、等待 DNA 比对，再结合自己的经验还原完整的作案链条。 大语言模型（LLM）的因果发现能力，就像这位老侦探。它读过的“卷宗”是互联网上数以万亿计的文本——新闻里写着“收入增加导致消费升级”，论文里写着“吸烟导致肺癌”。当你想知道两个变量之间是否存在因果关系时，它能凭借这些“阅读经验”迅速给出有根据的推测。但问题也随之而来：它的推测能直接当作科学结论吗？会不会漏掉一个隐藏在暗处的“第三人”（混淆变量）？ 这篇文章要讲的，正是这位“AI 侦探”的破案力与破案伤。我们会看到它如何从文本中发现因果线索，如何与传统统计算法组成“警探 + 鉴证”的搭档，以及为什么它更适合做先验参谋，而非独立法官。

岗位关联

对 AI 从业者来说，理解 LLM 因果发现的“能”与“不能”，是在真实业务中正确使用因果大模型、避免把“相关性”当“因果性”的必修课，也是从“会调 API”走向“能做可靠因果决策”的分水岭。

目录
  1. 可视化演示
  2. 因果发现概述
  3. LLM能力定位
  4. 方法与流程
  5. 局限与挑战
  6. 评估与验证
  7. 应用场景
  8. 未来方向
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

展示大语言模型从文本中提取变量关系并构建因果图的过程，对比LLM发现结果与真实因果结构，评估精确率与召回率。

本节配有交互动效（进入视口后自动加载，约 3KB）。

LLM因果发现 LLM发现因果边 正确发现（匹配真实） 错误发现（虚线） F1=2·P·R/(P+R) LLM因果发现作为先验知识需与传统算法结合验证

因果发现概述

老侦探王小虎接手一桩新案。助手跑进来报告：“师傅，数据分析显示，冰淇淋销量上升时，溺水人数也跟着上升，相关性高达 0.9！”王师傅头也不抬：“相关不是因果。夏天到了，气温升高同时推动了这两件事——气温才是幕后的真正推手。”因果发现要解决的，正是这样一个根本问题：给定一堆观测变量，如何从数据中分辨出“谁真正导致了谁”。

在统计学和机器学习里，这件事有一个标准的输出格式——因果图（Causal Graph）。因果图是一个有向无环图（DAG，Directed Acyclic Graph）：节点代表变量，带箭头的边代表“直接的因果影响”。比如“气温→溺水人数”是一条边，“冰淇淋销量→溺水人数”就不该有边。所谓因果发现，就是自动从观测数据中恢复出这张图。

因果图之所以重要，是因为它把模糊的“我觉得有关”升级成了精确的“我知道谁影响谁”。而它和概率分布之间有一条著名的桥梁——因果马尔可夫分解：在给定父节点的条件下，每个变量与其非后代条件独立。整张图把复杂的联合分布拆成了一个个小条件概率的乘积。

对 LLM 因果发现而言，这张 DAG 就是侦探要还原的“案件关系图”。传统算法靠数据统计来画这张图，而 LLM 侦探则多了一个信息来源——它读过的“卷宗”。两者各有长短，这正是后面几节要展开的故事。

G=(V,E),P(V1,V2,…,Vn)=∏i=1nP(Vi∣Pa(Vi))\displaystyle G = (V, E), \qquad P(V_1, V_2, \ldots, V_n) = \prod_{i=1}^{n} P(V_i \mid \text{Pa}(V_i))
这个公式说明：一张因果图可以看作一份“案件关系列表”，把一大家子变量的联合概率，拆解成每个人只依赖其“上级”的简单规则。
  1. 因果图结构$G = (V, E)$ 中，$V$ 是变量集合，$E$ 是有向边集合。每条有向边代表“直接原因”。
    V={V1,V2,…,Vn},E={Vi→Vj:Vi 直接导致 Vj}V = \{V_1, V_2, \ldots, V_n\}, \quad E = \{V_i \rightarrow V_j : V_i \text{ 直接导致 } V_j\}
  2. 联合分布分解$\prod$ 是连乘符号，把 $n$ 个变量的联合概率 $P(V_1, \ldots, V_n)$ 拆成 $n$ 个小项的乘积，每个小项只关心一个变量与其父节点。
    P(V1,V2,…,Vn)=∏i=1nP(Vi∣Pa(Vi))P(V_1, V_2, \ldots, V_n) = \prod_{i=1}^{n} P(V_i \mid \text{Pa}(V_i))
  3. 父节点集合$\text{Pa}(V_i)$ 是 $V_i$ 的所有父节点（直接原因）的集合。给定父节点后，$V_i$ 独立于它的“旁系亲戚”，这正是因果图编码数据规律的方式。

LLM能力定位

“王队，您怎么一眼就锁定了嫌疑人？”徒弟问。“直觉。”王师傅指指胸口，“我办了二十年案，卷宗见了十万份。看到'窗户被砸，值钱东西没丢'，我脑子里自动蹦出'寻仇'或者'找文件'。”LLM 的因果直觉就是这样来的——它的“卷宗”是互联网上数万亿文本：教科书、新闻、论文、论坛，里面到处是“吸烟导致肺癌”“收入提高促进消费”之类的因果表达。读多了，它就学会了从变量名和描述中推断因果方向。

2023 年，Emre Kıcıman 等人做了一系列实验：把一个变量的名字和一句描述喂给 LLM，问它“这两个变量之间是谁影响谁”。结果显示，LLM 在不少基准上的表现居然超过了传统因果发现算法。但研究者紧接着发现了一个关键事实：LLM 依靠的不是数据中的统计信号，而是语言知识中的先验。它的判断可以理解为——最终的后验估计 = 数据提供的证据 × 语言知识提供的先验。

换句话说，LLM 是一位经验丰富的“先验侦探”：它擅长根据常识快速圈定“可疑关系”，但它看不到数据里那些从未在文本中露面的变量，也做不了严格的统计推断。它的定位是“提供先验”，而不是“替代证据”。

所以在实际项目里，最合理的用法是：让 LLM 侦探先凭直觉圈出候选边，再让统计鉴证科去验证。先验是起点，证据才是终点。

P(G∣D,K)∝P(D∣G)⋅P(G∣K)\displaystyle P(G \mid D, \mathcal{K}) \propto P(D \mid G) \cdot P(G \mid \mathcal{K})
这个公式用贝叶斯的视角概括了 LLM 的角色：因果图的后验概率既受观测数据 $D$ 的影响，也受 LLM 知识 $\mathcal{K}$ 的影响，二者相乘、互为补充。
  1. 后验目标$P(G \mid D, \mathcal{K})$ 表示给定观测数据 $D$ 和 LLM 知识 $\mathcal{K}$ 时，因果图 $G$ 为真的概率。这是最终想要的“破案结论”。
    P(G∣D,K)P(G \mid D, \mathcal{K})
  2. 似然项$P(D \mid G)$ 是数据对图结构的支持程度——如果图 $G$ 正确，观测数据出现的概率有多大，由统计检验给出。
    P(D∣G)P(D \mid G)
  3. 先验项$P(G \mid \mathcal{K})$ 是 LLM 对图 $G$ 的“合理度”打分，来自预训练语言知识，不依赖当前数据。
    P(G∣K)P(G \mid \mathcal{K})
  4. 正比符号$\propto$ 表示两边相差一个归一化常数。实际计算中常把两项取对数后相加，变成“数据评分 + 知识评分”。

方法与流程

具体的办案流程是怎样的？王队有自己的四板斧：问话、笔录、交叉核实、比对物证。LLM 因果发现方法也遵循相似的四步。

第一步是“问话”——设计提示词，把两个变量 $V_i$、$V_j$ 的名字和业务描述写进去，让 LLM 回答：“如果 $V_i$ 发生变化，$V_j$ 会怎样？反过来呢？”第二步是“笔录”——让 LLM 对每一对变量输出判断：是否存在因果边、方向是谁到谁、置信度多高。第三步是“交叉核实”——对同一对变量换几种问法反复提问，综合多次回答，消除提示词措辞带来的偏差。第四步是“比对物证”——把 LLM 输出的先验边交给传统统计算法（如 PC 算法、GES 算法），用条件独立性检验和结构评分对候选边进行验证、剪枝、定向。

这四步融合成一个整体框架：先有知识先验，后有数据验证。写成公式就是——在所有可能的因果图中，寻找一个使“数据拟合分 + LLM 先验分”最大的图。

这四板斧下来，LLM 的“拍脑袋”变成了“有依据的假设”，统计检验的“冷冰冰”获得了语义知识的引导。二者合璧，才是当下 LLM 因果发现的主流姿势。

G^=arg⁡max⁡G[log⁡P(D∣G)+λ⋅SLLM(G)]\displaystyle \hat{G} = \arg\max_{G} \left[ \log P(D \mid G) + \lambda \cdot S_{\text{LLM}}(G) \right]
白话讲：LLM 给每个候选因果图打一个“合理性分”，传统算法给每个图打一个“数据契合分”，两者相加，总分最高的图获胜。
  1. 目标求解$\hat{G}$ 是要找的最优因果图；$\arg\max$ 表示在所有候选图 $G$ 中，选使括号内得分最大的那张。
    G^=arg⁡max⁡G[⋯ ]\hat{G} = \arg\max_{G} [\cdots]
  2. 数据拟合项$\log P(D \mid G)$ 是数据项，衡量图 $G$ 解释观测数据的程度，等价于传统结构学习中的似然评分。
    log⁡P(D∣G)\log P(D \mid G)
  3. LLM 先验项$S_{\text{LLM}}(G)$ 是 LLM 对整张图的因果合理性打分，由四步流程中对每条边的判断汇总而来。
    SLLM(G)S_{\text{LLM}}(G)
  4. 权衡系数$\lambda$ 控制 LLM 先验的相对权重。$\lambda=0$ 退化为纯数据算法；$\lambda$ 过大则 LLM 的直觉会压过统计证据。
    λ∈[0,+∞)\lambda \in [0, +\infty)

局限与挑战

再厉害的老侦探也有翻车的时候。王队的直觉来自卷宗——卷宗里没记载的东西，他想不到。假设案件里有一个从未在卷宗中出现过的第三方“老赵”，他同时操纵着 A 和 B，让 A 和 B 看起来有因果。王队的直觉只会盯着 A 和 B 打转，完全想不到老赵的存在。这就是混淆变量问题，也是 LLM 因果发现最大的命门。

具体来说，LLM 的因果发现能力受四个因素制约。其一是混淆变量：LLM 只能看到提示词里给出的变量，数据中存在但文本未提及的变量它会视而不见。其二是语料频率偏差：LLM 学的是“人类文本中因果表达的频率”，不是世界真实因果的频率，媒体报道和发文偏倚都会扭曲这个频率。其三是时间序列：对有时间前后关系的变量，LLM 往往判断不准。其四是方向判别：$X \rightarrow Y$ 还是 $Y \rightarrow X$？LLM 容易受“因为……所以……”这类句式影响，把语言上的叙事顺序当作因果方向。

要破解混淆变量问题，统计学有一个经典工具——后门调整。如果怀疑 $Z$ 是 $X$ 和 $Y$ 的共同原因，那么在估计 $X$ 对 $Y$ 的因果效应时，要对 $Z$ 的所有取值求加权平均，把 $Z$ 的影响“排除”掉。

可惜的是，LLM 不会自动执行这套纠错——它甚至想不到 $Z$ 的存在。这正是它必须与传统算法结合的原因：LLM 提假设，统计方法来纠偏。

P(Y∣do(X=x))=∑zP(Y∣X=x,Z=z) P(Z=z)\displaystyle P(Y \mid do(X=x)) = \sum_{z} P(Y \mid X=x, Z=z) \, P(Z=z)
这个公式是“侦探的纠错手册”：当怀疑有幕后黑手 $Z$ 时，不能直接看 $X$ 和 $Y$ 的表面关系，而要把 $Z$ 的每个可能取值都考虑进去再平均。
  1. 干预算子$do(X=x)$ 表示“强制将 $X$ 设为 $x$”，类似实验中的主动干预，区别于被动的条件概率 $P(Y \mid X=x)$。
    do(X=x)do(X=x)
  2. 后门调整$\sum_{z}$ 对混淆变量 $Z$ 的所有可能取值求和，每一项是“在 $Z=z$ 时 $X$ 对 $Y$ 的效果”乘以“$Z=z$ 出现的概率”。
    ∑zP(Y∣X=x,Z=z) P(Z=z)\sum_{z} P(Y \mid X=x, Z=z) \, P(Z=z)
  3. 直觉理解把总体按 $Z$ 的取值分成若干子群，在每个子群里看 $X$ 的效果，再按子群大小加权平均。就像把案子按“是否有老赵参与”分组，再分别判断 A 与 B 的关系。

评估与验证

怎么知道一个侦探厉不厉害？拿已经定论的积案去盲测。学界对 LLM 因果发现的评估也是这个思路：使用真实因果图已知的基准数据集，让模型“盲测”还原因果图，再与真实图对比。常用的基准包括 Tübingen 因果对数据集、Sachs 蛋白质信号数据等。

评估的核心指标有两个。第一个是结构汉明距离（SHD，Structural Hamming Distance）：统计预测图与真实图之间的边差异——漏掉的边、多出的边、方向反的边，每错一处记一个数。第二个是精确率（Precision）：预测出来的边中，真正正确的比例。

评估结果揭示了一个耐人寻味的现象：当变量名带有语义信息（如“吸烟”“癌症”）时，LLM 表现亮眼；但当变量名被替换成匿名符号（如 $X_1$、$X_2$）时，性能骤降。这说明它的因果发现能力高度依赖语义先验，而不是纯粹的统计推理。盲测揭穿了“侦探的底牌”——他厉害在读书多，而不是现场取证强。

SHD=∣Emiss∣+∣Eextra∣+∣Erev∣,Precision=TPTP+FP\displaystyle SHD = |E_{\text{miss}}| + |E_{\text{extra}}| + |E_{\text{rev}}|, \qquad \text{Precision} = \frac{TP}{TP + FP}
SHD 就像“错案清单”：漏判、误判、方向搞反各算一笔；Precision 则回答“你抓的嫌疑人里，真凶占几成”。
  1. 缺失边$|E_{\text{miss}}|$ 是真实图中存在、但预测图漏掉的边数，对应侦探“漏掉了真凶”。
    Emiss={(Vi→Vj)∈Gtrue∖Gpred}E_{\text{miss}} = \{(V_i \rightarrow V_j) \in G_{\text{true}} \setminus G_{\text{pred}}\}
  2. 多余边$|E_{\text{extra}}|$ 是预测图多画出来的边数，对应“冤枉了好人”。
    Eextra={(Vi→Vj)∈Gpred∖Gtrue}E_{\text{extra}} = \{(V_i \rightarrow V_j) \in G_{\text{pred}} \setminus G_{\text{true}}\}
  3. 反向边$|E_{\text{rev}}|$ 是方向搞反的边数，对应“抓对了人但搞错了主从”。
    Erev={(Vi→Vj)∈Gpred:(Vj→Vi)∈Gtrue}E_{\text{rev}} = \{(V_i \rightarrow V_j) \in G_{\text{pred}} : (V_j \rightarrow V_i) \in G_{\text{true}}\}
  4. 精确率$TP$（True Positive）是正确预测的因果边数，$FP$（False Positive）是错误预测的边数。精确率越高，冤枉好人的比例越低。
    TPTP+FP\frac{TP}{TP + FP}

应用场景

有了这套“LLM 先验 + 统计验证”的方法，侦探们开始在真实案件中大展拳脚。

第一个场景是脑机接口研究。神经科学家从 fMRI 或 EEG 信号中恢复脑区之间的因果网络，传统算法在高维小样本数据上容易过拟合。LLM 阅读过大量神经科学文献，可以为每个脑区提供先验的“已知功能连接”，约束搜索空间，使因果网络更稳定。第二个场景是营销归因分析。市场部常常把“广告曝光”与“销售额”的相关性直接解读为广告的功劳，但品牌热度可能同时驱动两者。LLM 先提出“品牌热度可能是混淆变量”的怀疑，统计团队再通过后门调整估计广告的真实效应，避免预算被错误分配。第三个场景是医学综述中的证据提炼。面对上千篇论文，医生很难手动梳理“哪种药物与哪种不良反应存在因果关系”，LLM 从摘要中快速提取候选因果对，研究者再用统计方法交叉验证，沉淀为知识图谱。

在这些场景中，一个统一的目标是估计因果效应的大小，例如广告对销售的平均提升幅度。

在这些实战案例中，LLM 都不是单打独斗的主角，而是“先验参谋”。真正的判决，永远由数据与统计检验联合完成。

ATE=E[Y(1)−Y(0)]\displaystyle ATE = \mathbb{E}[Y(1) - Y(0)]
ATE 是“平均处理效应”：把所有个体在接受干预后的结果 $Y(1)$ 减去未接受干预的结果 $Y(0)$，再求平均。因果发现的价值，正是为计算这个差值找到正确的“调整变量集合”。
  1. 潜在结果$Y(1)$ 表示个体在“干预发生”这一平行世界中的结果，$Y(0)$ 表示“干预未发生”的结果。同一个体在真实世界只能观测到其中一个。
    Y(1),Y(0)Y(1), \quad Y(0)
  2. 期望差$\mathbb{E}[\cdot]$ 是期望运算，$Y(1) - Y(0)$ 对每个个体求差值再取平均，得到总体上的平均因果效应。
    E[Y(1)−Y(0)]\mathbb{E}[Y(1) - Y(0)]
  3. 与因果发现的关系要估计 ATE，必须先知道哪些变量是混淆变量、哪些是中间变量。因果发现提供的 DAG 正是“调整变量清单”的来源——少了它，ATE 就是有偏的。

未来方向

老侦探终会退休，但“侦探方法论”会不断升级。LLM 因果发现的未来，正从“单个侦探凭经验办案”走向“人机协同的现代化刑侦体系”。

第一个方向是反事实推理增强。目前的 LLM 主要回答“谁导致谁”，未来要能回答“如果当初没做某个干预，现在会怎样”。反事实问题是因果推理的皇冠，也是决策的核心。第二个方向是人机协同发现：LLM 提出候选因果图，人类专家基于领域知识修正，统计算法验证闭环，三者迭代。这能同时弥补 LLM 的知识盲区、专家的精力限制、算法的语义缺失。第三个方向是因果基础模型（Causal Foundation Model）：把因果发现、因果效应估计、反事实推理统一进一个大模型，让“侦探、鉴证、法官”在同一个人工智能体内协同工作。

反事实推理是其中最吸引人的前沿，它的数学形式是这样的条件概率：

回望王队长破案的过程，从直觉到验证、从文本到数据，我们看到一条清晰的路线：让 AI 侦探的直觉去怀疑，让统计鉴证科的证据去定案。这才是 LLM 因果发现能力正确的使用方式，也是每一个 AI 从业者面对因果问题时该有的清醒。

P(YX=x=y∣X=x′,Y=y′)\displaystyle P(Y_{X=x} = y \mid X = x', Y = y')
读法：“在真实世界里我们观察到 $X=x'$、$Y=y'$，如果当时把 $X$ 强行改成 $x$，$Y$ 等于 $y$ 的概率是多少？”这是从“发现问题”走向“做出决策”的关键一步。
  1. 反事实世界下标 $Y_{X=x}$ 表示“在 $X$ 被干预为 $x$ 的反事实世界中的 $Y$”，与观测世界相区别。
    YX=xY_{X=x}
  2. 现实条件竖线右侧 $X = x'$、$Y = y'$ 是真实观测到的事实，作为推理的“案发现场”。
    X=x′,Y=y′X = x', \quad Y = y'
  3. 概率表达整个式子回答“给定现场，如果时光倒流换一条路走，结果如何”——它是从 $\arg\max$ 式搜索走向决策推理的明珠。
    P(YX=x=y∣X=x′,Y=y′)P(Y_{X=x} = y \mid X = x', Y = y')

AI 应用场景

场景一：营销归因分析——让每一分广告费花得明白

阶段：因果发现与效应估计

解决的问题：传统归因分析只做相关性统计，常把“广告曝光→购买”直接当因果，导致预算浪费在本来就会发生的购买上。LLM 能根据业务描述提出“品牌热度/搜索声量”等潜在混淆变量，再由统计检验验证，从而得到真实的广告因果效应。

具体案例：某消费品公司用 LLM 辅助构建“广告、销量、社媒声量”三变量因果图。LLM 提示“社媒声量可能同时驱动二者”，偏相关检验确认控制声量后广告→销量的相关性消失。公司将 30% 预算转向声量运营，季度 ROI 提升 18%。

场景二：医学文献因果综述——从两千篇论文到一张证据图

阶段：文本知识提炼与证据合成

解决的问题：医学综述依赖专家手动阅读海量文献，效率低且容易遗漏隐藏的混杂因素。LLM 从论文摘要中提取候选因果对，统计算法对原始数据做交叉验证，人机协同产出可靠证据图。

具体案例：某研究团队用 LLM 从 2000 篇糖尿病文献中提炼出 47 个候选因果边，经传统因果发现算法与专家复核，12 条边被纳入诊疗建议知识图谱，其中 3 条是之前综述未覆盖的新关联。

场景三：脑机接口因果网络重建——让“读脑”更稳

阶段：数据驱动因果结构学习

解决的问题：fMRI 数据维度高、样本少，纯数据驱动的因果发现容易过拟合。LLM 从神经科学文献中提取脑区连接先验，压缩搜索空间，帮助算法在高噪声神经信号中找到稳定的因果骨架。

具体案例：某脑机接口实验室将 LLM 先验注入 PC 算法，从静息态 fMRI 中恢复默认模式网络因果结构，相比纯数据方法 SHD 降低 22%，且因果边在重测数据上更稳定。

Python 演示

python69 行
"""融合 LLM 先验与统计检验的因果发现演示. 业务背景: 市场部发现 ad_spend(广告投入) 与 sales(销售额) 强相关,怀疑"广告导致销售". 但数据中还有一个变量 brand_heat(品牌热度),它同时驱动广告与销售, 是一个混淆变量.本程序模拟 LLM 侦探提出先验假设, 再用统计鉴证检验, 得到可靠结论."""import itertoolsimport numpy as npfrom scipy.stats import spearmanr  class CausalExplorer:    """基于 LLM 先验 + 偏相关检验的因果探索器"""     def __init__(self, data):        self.data = data        self.llm_map = {  # 模拟 LLM API 返回 (起, 止, 置信度)            ("ad_spend", "sales"): ("ad_spend", "sales", 0.92)        }     def llm_judge(self, src, dst):        """调用 LLM 判断 src 到 dst 是否存在因果方向"""        return self.llm_map.get((src, dst))     @staticmethod    def partial_corr(arr_a, arr_b, arr_z):        """控制 arr_z 后, 计算 arr_a 与 arr_b 的偏相关"""        ra = spearmanr(arr_a, arr_z)[0]        rb = spearmanr(arr_b, arr_z)[0]        rab = spearmanr(arr_a, arr_b)[0]        denom = np.sqrt((1 - ra ** 2) * (1 - rb ** 2))        if denom < 1e-8:            return 0.0        return (rab - ra * rb) / denom     def run(self):        """对数据中所有变量对执行检验, 输出融合结论"""        variables = list(self.data)        for a, b in itertools.combinations(variables, 2):            prior = self.llm_judge(a, b)            confounders = [v for v in variables if v not in (a, b)]            if confounders:                pc = self.partial_corr(self.data[a], self.data[b],                                       self.data[confounders[0]])            else:                pc = spearmanr(self.data[a], self.data[b])[0]            verdict = "真实因果" if abs(pc) > 0.25 else "虚假相关(被混淆解释)"            source = "LLM 先验" if prior else "纯统计检验"            print(f"{a} - {b}: 偏相关={pc:+.3f} -> {verdict} [{source}]")  def main():    rng = np.random.default_rng(42)    n = 400    brand_heat = rng.normal(size=n)    ad_spend = 0.7 * brand_heat + rng.normal(size=n) * 0.5    sales = 0.6 * brand_heat + rng.normal(size=n) * 0.5    data = {        "ad_spend": ad_spend,        "sales": sales,        "brand_heat": brand_heat,    }    explorer = CausalExplorer(data)    explorer.run()  if __name__ == "__main__":    main()
目的：模拟“LLM 先验 + 统计检验”融合的因果发现流程，展示当 LLM 怀疑广告→销售时，偏相关检验如何发现品牌热度是混淆变量，从而判定该因果不成立。
  1. class CausalExplorer:定义因果探索器，对应“LLM 侦探 + 鉴证科”组成的破案小组。
  2. self.llm_map = {...}模拟 LLM API 输出；真实项目中替换为 openai.ChatCompletion.create(...) 等模型调用。
  3. @staticmethod def partial_corr(...)偏相关检验：控制第三个变量后重新计算相关性，是识破“虚假相关”的鉴证手段。
  4. spearmanr(arr_a, arr_z)[0]计算秩相关系数，衡量两个变量间的单调关联强度。
  5. denom = np.sqrt((1 - ra ** 2) * (1 - rb ** 2))偏相关公式的分母，将零阶相关标准化为条件相关。
  6. for a, b in itertools.combinations(variables, 2):枚举所有变量对，逐一检验“谁与谁存在因果嫌疑”。
  7. confounders = [v for v in variables if v not in (a, b)]找出当前变量对之外的所有变量，作为候选混淆变量。
  8. verdict = "真实因果" if abs(pc) > 0.25 else "虚假相关(被混淆解释)"以阈值为标准给出结论，对应鉴证报告。
  9. explorer.run()启动整个“破案流程”。

常见误区

误区我看到论文说 LLM 在因果发现基准上超过了传统算法，那以后直接用 ChatGPT 输出因果图就行，还训练什么 PC 算法、GES 算法？机器学习模型不是越先进越省事吗？

正解LLM 的“超过”建立在变量名带语义的前提之上。一旦变量匿名化，性能立刻崩盘。更关键的是，LLM 无法感知数据中未提及的变量，而真实数据的因果结构往往就藏在这些看不见的角落里。正确姿势是把 LLM 当先验来源，用统计检验做最终裁决——侦探提出假设，鉴证科出具报告。

为何常见：LLM 对话流畅、结论自信，用户容易把“语言上的因果关系”误当成“数据上的因果证据”。

误区我问 LLM“广告投放对销售额的提升幅度是多少”，它列出一大堆数字和理由，看起来很有道理，我直接采信不就行了吗？

正解LLM 生成的数字是“文本模式的外推”，不是从你的观测数据中估计出来的统计量。效应量估计必须来自数据——通过后门调整、工具变量或随机实验。LLM 的数字最多算“参考性的专家意见”，且往往缺乏你的业务场景独有的数据支持。

为何常见：LLM 指令遵循能力强，能把任意问题回答得有模有样，让用户误以为它做了真实的统计计算。

误区语料里成千上万篇文章都说“玩手机导致近视”，LLM 也这么说，这总该是科学结论了吧？

正解语料中的高频共现反映的是“人类文本中的因果表达”，不是世界真实的因果结构。媒体会放大某些话题、科研出版存在发文偏倚，这些都会扭曲语料中的因果频率。LLM 复述的是文本世界的“舆论因果”，需要用数据检验才能升级为“科学因果”。

为何常见：语言是知识的载体，人天然信任语言背后的真实性，容易忽略语料本身的偏差。

误区把变量名从“吸烟/肺癌”换成 $X_1/X_2$，LLM 靠强大的推理能力应该也能找出因果吧，毕竟逻辑是一样的。

正解实验给出的答案是：不能。匿名化后 LLM 的因果发现性能大幅下降，这说明它根本没有在做统计层面的因果推理，而是在调用记忆中的语义关联。它像一位只认人脸的老刑警，把嫌疑人改名换姓就认不出了。

为何常见：LLM 在其他推理任务上表现强悍，公众与初学者容易高估其“通用推理”能力。

误区LLM 读过的文献比专家多得多，让 AI 自动提出因果假设，比人类专家更全面更客观。

正解LLM 的知识覆盖“文本化的常识”，但大量行业知识（工艺流程、物理机制、隐性经验）从未被系统写入文本。专家能在 LLM 看不到的维度上提出假设，也更容易识别 LLM 由语料偏差导致的错误方向。最佳实践是“LLM 出初稿 → 专家修正 → 数据验证”的迭代闭环。

为何常见：模型规模与参数量的光环让用户产生了“大模型无所不知”的错觉。

面试题

Q1. LLM 的因果发现能力最本质的来源是什么？

单选题 · easy

  • A.从输入数据中做严格的统计分析
  • B.利用预训练文本中的语义先验← 正确答案
  • C.通过在线学习掌握因果规律
  • D.完全等同于传统因果发现算法

答案：B。LLM 判断因果主要依据预训练语料中学到的语义关联，而非对当前数据的统计推断。A 是统计方法的特征；C 把在线学习概念误植到 LLM 上；D 忽略了 LLM 缺乏统计信号处理能力的事实。

Q2. 研究发现 LLM 在变量匿名化后因果发现性能下降，说明了什么？

单选题 · mid

  • A.匿名化破坏了统计信息
  • B.LLM 靠语义先验而非统计信号← 正确答案
  • C.匿名化导致数据严重丢失
  • D.提示词模板设计存在错误

答案：B。匿名化只改了变量名，数据本身没有变化。性能骤降恰恰证明 LLM 依赖变量名激发的语义先验，而不是数据中的统计信号。A、C 关于数据受损的说法不成立，D 与题意无关。

Q3. 以下关于 LLM 因果发现的定位，正确的有？

多选题 · mid

  • A.适合作为先验知识来源← 正确答案
  • B.独立替代传统因果发现工具
  • C.需与因果发现算法结合验证← 正确答案
  • D.可直接估计因果效应大小

答案：AC。LLM 提供的是语义先验，适合引导搜索；它无法独立替代统计算法，也不能直接估计效应量，因此 B、D 错误。A、C 符合主流研究结论。

Q4. 已知 Z 同时影响 X 和 Y，且 X 与 Y 观测相关。两者间真正的因果关系是？

单选题 · mid

  • A.X 是 Y 的原因
  • B.两者互为因果
  • C.X 与 Y 无直接因果← 正确答案
  • D.Y 是 X 的原因

答案：C。混淆变量 Z 同时驱动 X 和 Y，导致 X-Y 出现虚假相关。控制 Z 后相关性消失，说明 X 与 Y 没有直接因果。这正是后门调整要处理的情形。

Q5. 下列哪项是因果关系的标志？

单选题 · easy

  • A.两个变量总是同时出现
  • B.相关性意味着因果性
  • C.干预 X 后 Y 系统改变← 正确答案
  • D.变量在语料中频繁共现

答案：C。因果关系的黄金标准是干预：强制改变 X 时 Y 随之系统变化。A 和 D 只是共现或共词，B 是把相关当因果的典型错误。

Q6. 因果图搜索融合公式 Score(G)=logP(D|G)+λ·S_LLM(G) 中，λ 设置过大可能导致？

单选题 · extreme

  • A.数据拟合优度主导结论
  • B.LLM 先验压过统计证据← 正确答案
  • C.混淆变量被自动消除
  • D.搜索算法收敛速度加快

答案：B。λ 是 LLM 先验项的权重。λ 过大时 S_LLM(G) 主导得分，即使数据强烈反对，LLM 的语义猜测仍会胜出，结论偏离真实数据。实践中 λ 应通过交叉验证确定。

Q7. do(X=x) 与条件概率 P(Y|X=x) 的核心区别是？

单选题 · mid

  • A.do 是强制干预，P 为观测条件← 正确答案
  • B.两者在数学上完全等价
  • C.do 是贝叶斯先验估计
  • D.P 直接就是干预分布

答案：A。do 算子表示“强制干预”，会切断所有指向 X 的因果边；P(Y|X=x) 只是被动观测条件，可能混入混淆变量的影响。能否识别二者区别，是因果推理入门的分水岭。

Q8. 结构汉明距离 SHD 衡量的核心内容是？

单选题 · mid

  • A.预测图与真实图的边集差异← 正确答案
  • B.变量联合分布的方差大小
  • C.深度模型的参数量多少
  • D.输入文本的序列长度长短

答案：A。SHD 统计缺失边、多余边、反向边三类错误的个数之和，直接刻画预测因果图与真实因果图的结构差异。B、C、D 与因果图结构无关。

Q9. LLM 因果发现的主要局限有哪些？

多选题 · easy

  • A.混淆变量难以察觉← 正确答案
  • B.依赖语料频率偏差← 正确答案
  • C.因果方向易受语言习惯影响← 正确答案
  • D.结果必然准确无误

答案：ABC。A 是命门——LLM 看不到提示词之外的变量；B 是语料系统性偏差；C 是语言句式对方向的误导。D 与事实相反，任何因果结论都需要验证。

Q10. 反事实概率表达式 P(Y_Xx=y | X=x', Y=y') 中，“反事实”的核心含义是？

单选题 · hard

  • A.假设 X 被干预为 x 而非观测值← 正确答案
  • B.使用了贝叶斯后验概率公式
  • C.对 Y 的所有取值求期望
  • D.引入了独立的随机噪声项

答案：A。真实世界观测到 X=x'、Y=y'，反事实则追问“如果当时把 X 改为 x，Y 会怎样”。这个假设世界与观测世界并存，是反事实推理的核心。B、C、D 都不触及“替代世界”这一本质。