LiNGAM与非高斯：时序因果发现

可视化演示

展示VarLiNGAM利用非高斯噪声识别VAR模型因果方向、tsPC算法与DBN的双图跨期同期结构学习、以及时变因果结构的变点检测与去趋势去季节化预处理。

时序因果基础

侦探接到“谣言源头”案，第一课就是别被时间顺序骗了。公鸡打鸣总在日出之前，可太阳并不会因为公鸡啼叫而升起；真正让打鸣与日出“同步出现”的是昼夜节律这个幕后节拍器。时间在前的嫌疑，并不等于因果证据，侦探把这条铁律刻在笔记本封面。

时序数据，就是同一个系统在多个时刻的“口供记录”：每个人的情绪值、每只股票的收益率、每个气象站的海温，一路拍摄下来。因果发现的目标，是从这些连续观测里恢复变量之间“谁引发谁”的结构。与之相对的是相关：啤酒和冰淇淋销量总是同步上涨，但它们只是共同受“天气变热”这个隐藏原因驱动，谁都不是谁的原因。

时序因果发现要处理两类依赖：滞后效应（前一时刻的因，影响后一时刻的果）和同期效应（同一时刻变量之间的相互牵制）。先看最基础的滞后关系：

$$\displaystyle y_t = \alpha x_{t-1} + e_t$$

1. 时刻下标 t：表示第 t 个时间点，把每个变量都变成带时间戳的口供。

$$t$$

2. 上一刻的因 x_{t-1}：原因变量在“前一个时刻”的取值，对应嫌疑人前一小时的活动记录。

$$x_{t-1}$$

3. 影响强度 α：衡量 x 前进一小步时，y 会被带动多少的系数。

$$\alpha$$

4. 扰动项 e_t：这一时刻特有的、无法由 x 解释的部分，正是“专属噪声指纹”的雏形。

$$e_t$$

侦探把时间戳整齐贴进档案，但他牢记：先后只是线索，真正的破案结论要等后续的“指纹独立性”检验登场。相关可以伪造，时序可以倒装，只有剥不掉的那句“自己的话”不会说谎。

LiNGAM原理

破案中侦探有了惊喜发现：每个人讲述谣言时都带着独特“声音指纹”——有人语调上扬得厉害，有人尾音拖得很长，有人情绪尖峰特别高。因为这些个性，侦探才能在嘈杂的对话混音里追踪到源头。LiNGAM 正是把这句话翻译成了数学。

LiNGAM 全称是线性非高斯无环模型（Linear Non-Gaussian Acyclic Model），三个定语各管一件事：线性——影响可以叠加相加，像音量旋钮；非高斯——每个变量的专属扰动有个性，不是千篇一律的播音腔；无环——因果关系不会传回自己，谣言不会重新传回源头。

设 $\mathrm{pa}(i)$ 是变量 $x_i$ 的父节点集合，也就是直接引发它的原因变量们，LiNGAM 的生成式写成：

$$\displaystyle x_i = \sum_{j \in \mathrm{pa}(i)} b_{ij} x_j + e_i, \quad e_i \text{ 相互独立且非高斯}$$

1. 父节点集合 pa(i)：直接导致 $x_i$ 变化的变量们，侦探眼里“影响过 i 的全部前情”。

$$\mathrm{pa}(i)$$

2. 求和叠加：把每个父节点的影响线性相加，对应谣言被听到的所有版本的总和。

$$\sum_{j \in \mathrm{pa}(i)} b_{ij} x_j$$

3. 因果强度 b_{ij}：从 j 到 i 的路径系数，给每条传播路径标注“影响力度”。

$$b_{ij}$$

4. 独立噪声 e_i：每个变量独有的扰动，且彼此相互独立，这是“声音指纹”的数学化身。

$$e_i$$

侦探靠指纹区分“谁学了谁的腔调”，LiNGAM 靠独立非高斯噪声区分“谁引发了谁”。指纹越独特，方向越清晰；这正是整个模型的灵魂所在。

非高斯密钥

假如所有人说话都是标准播音腔，声波几乎一模一样，侦探在录音里完全分不清谁先开了口——前一秒的“嗯”和后一秒的“啊”可以任意互换，因果方向如同镜面对称，永远猜不出来。高斯分布带来的正是这种对称困境。

对任意两个高斯变量，模型 $X \to Y$（$Y = bX + e$）和 $Y \to X$（$X = b'Y + e'$）都能同样好地拟合同一份数据，联合分布在方向上旋转对称、完全等价。这就是为什么高斯数据注定无法识别因果方向——没有“指纹”，侦探再努力也白搭。

非高斯打破对称。假设真实结构是 $x \to y$，即 $y = bx + e$ 且 $e$ 与 $x$ 独立，那么联合分布可以写成“x 的边缘分布 × 残差分布”；反方向的分解则会让残差与原因不再独立，独立性检验立刻暴露真相：

$$\displaystyle p(x, y) = p_x(x)\, p_e(y - bx)$$

1. 联合分布 p(x,y)：两个变量的完整概率分布，侦探手里的“对话录音档案”。

$$p(x, y)$$

2. 边缘分布 p_x(x)：x 单独说话时的分布，相当于嫌疑人的个人语料库。

$$p_x(x)$$

3. 残差分布 p_e(y-bx)：把 x 的影响剥离后 y 剩下的部分，真正的“指纹”就藏在这里。

$$p_e(y - bx)$$

换句话说，非高斯给联合分布装上了方向指针：只有指向真实原因那一侧时，残差才真正独立。独立成分分析（ICA）正是利用这种高阶矩信息，从混合信号里把一个个“声音指纹”分离出来，时序场景下同样奏效。

时序扩展模型

侦探不再满足于单次对质，干脆调出整条走廊的连续监控：谁在十点离开工位、谁在十点十分看了一眼手机、谁在十点二十分发出消息。一条完整的消息时间线，就是一段“时序录像”，信息量远超一张“合影”。

截面 LiNGAM 看的是“一张合影”，时序因果发现看的是“连续短片”。每个时刻的变量，一方面受过去时刻变量的影响（滞后效应），另一方面受同一时刻其他变量的牵制（同期效应）。忽略任何一类，都会让因果图缺胳膊少腿。

把滞后效应与同期效应写进同一个模型，得到时序 LiNGAM 的基本形式：

$$\displaystyle x_t = \sum_{\tau=1}^{L} B_\tau x_{t-\tau} + A x_t + e_t$$

1. 此刻快照 x_t：t 时刻所有变量的取值向量，走廊里此刻所有人的状态。

$$x_t$$

2. 滞后项 B_\tau x_{t-\tau}：前 τ 个时刻的变量如何影响此刻，对应“昨天的话如何影响今天”。

$$\sum_{\tau=1}^{L} B_\tau x_{t-\tau}$$

3. 同期项 A x_t：同一时刻变量之间的直接牵制，A 的对角线为 0，保证没有自环。

$$A x_t$$

4. 噪声向量 e_t：t 时刻的独立非高斯噪声，每个变量的专属声音指纹。

$$e_t$$

从“合影”升级到“连续短片”，侦探手里的证据翻倍：同刻的相互牵制与跨时的传播链条织成一张完整的时序因果网，这正是时序因果发现区别于普通 LiNGAM 的地方。

算法流程

侦探的破案手册写着标准流程：先给所有口供建档（数据预处理）；再按“谁最像源头”给嫌疑人排序（因果排序）；每锁定一个源头，就把他的影响从别人的口供里剥离（回归残差）；最后画出完整的传播图（剪枝成图）。

DirectLiNGAM 是经典实现。核心思想很朴素：如果 $x_i$ 是最外生变量——没有任何父节点，是真正的源头——那么把其他变量 $x_j$ 对 $x_i$ 回归后的残差应该与 $x_i$ 独立。因为 $x_i$ 的影响已被剥离，残差只剩“自己的话”，天然独立。

于是每一轮挑选“残差最独立”的变量作为当前外生变量，剥离它的影响后递归执行，直到排出全局因果顺序：

$$\displaystyle k = \arg\min_{i} \sum_{j \neq i} \operatorname{Dep}\left(x_j - \operatorname{reg}(x_j \mid x_i),\, x_i\right)$$

1. 回归 reg(x_j | x_i)：用 $x_i$ 预测 $x_j$，相当于把嫌疑人 i 的影响从 j 的口供里扣掉。

$$\operatorname{reg}(x_j \mid x_i)$$

2. 残差：剥离后 j 剩下的“自己的话”，是独立性的检验对象。

$$x_j - \operatorname{reg}(x_j \mid x_i)$$

3. 独立性度量 Dep(·, x_i)：衡量残差与 $x_i$ 之间的依赖程度，越小越独立。

$$\operatorname{Dep}(\cdot, x_i)$$

4. 取最小 argmin：让总依赖最小的 i 就是本轮最像源头的人，被优先锁定。

$$\arg\min_{i}$$

排序完成后，再把不显著的边剪掉，就得到一张干净的时序因果图——侦探终于把完整传播链挂到了墙上，每一张口供都有了归宿。

性能与挑战

现实任务没那么美好。破案可能遇到：目击者太少（样本量小）、嫌疑人太多（高维变量）、证词模糊（噪声污染），甚至还有从未露面的幕后主使（隐藏变量）。每一种困境都在考验算法的极限。

非高斯估计对样本量有硬需求：指纹再独特，只给一句话也测不准分布形状。随着变量数增长，待评估的候选边数量呈平方级爆炸；时序框架下每条边还要考虑滞后阶数，搜索空间成倍扩大。12 个变量、滞后 2 步，就要评估上百条候选边。

m 个变量两两配对的组合数，是挑战的数学根源：

$$\displaystyle \binom{m}{2} = \frac{m(m-1)}{2}$$

1. 变量数 m：待分析的变量个数，相当于嫌疑人数量。

$$m$$

2. 组合符号：从 m 个变量里任选 2 个配对的方案数，记作组合数。

$$\binom{m}{2}$$

3. 平方增长：约等于 $m^2/2$，变量翻倍时候选边大约涨四倍。

$$\frac{m(m-1)}{2}$$

更棘手的是隐藏变量：幕后黑手从不出现在数据里，却同时操控多个嫌疑人，让侦探把“亲密的同伙”误判成“上下级”。这是时序因果发现中最难啃的硬骨头，也是很多错误因果结论的幕后推手。

实践应用

侦探事务所生意兴隆，三大客户找上门：银行要查资金传导链，气象局要追气候归因，医院要画脑区连接图。时序因果发现在真实世界里从不停留在纸面。

金融场景里，分析师用收益率时序判断某只基金的波动是否“传染”给同业，定位风险源头；气象领域用海温异常对降雨的滞后因果做归因；脑科学用 fMRI 时序数据推断脑区之间的驱动关系；工业现场则用传感器序列追溯故障的传播路径。

因果图的价值在于预测与解释：给定父节点的取值，预测子节点下一时刻的条件分布，比单纯“猜一个数”更有依据：

$$\displaystyle \mathbb{E}\left[y_{t+1} \mid \operatorname{pa}(y_{t+1})\right]$$

1. 目标变量 y_{t+1}：下一时刻要预测的结果，侦探要预判的“明天的口供”。

$$y_{t+1}$$

2. 因果父节点 pa(y_{t+1})：来自因果图的直接原因集合，预测依据比“所有历史”更聚焦。

$$\operatorname{pa}(y_{t+1})$$

3. 条件期望：给定原因取值时结果的平均水平，是因果图上最自然的预测器。

$$\mathbb{E}[\cdot \mid \cdot]$$

有了因果骨架，AI 不仅知道“会涨还是会跌”，还知道“为什么涨、源头在哪”——这正是可解释性的价值，也是数据分析从“相关”走向“因果”的关键一步。

优化策略

老侦探的锦囊里装着四个诀窍：先筛掉与案件无关的人（变量筛选）、对照档案复核结论（模型诊断）、融合不同破案思路（混合模型）、重复实验确认结果（稳定性评估）。新手只追一条线索，老手交叉验证。

变量筛选压缩搜索空间，把组合爆炸控制在可承受范围；模型诊断检查残差是否仍残留结构，防止漏掉关键边；混合模型把 Granger 检验、VAR 与 LiNGAM 的证据互相印证；自助抽样则给每条边一个置信分数，让结论经得起复现。

模型复杂度需要平衡，滞后阶数太多会过拟合，太少又漏掉效应。信息准则为此而生：

$$\displaystyle \mathrm{BIC} = -2\ln L + k \ln n$$

1. 对数似然 ln L：模型拟合数据的程度，拟合越好这一项越大。

$$\ln L$$

2. 拟合惩罚 -2ln L：欠拟合时数值很大，逼迫模型把故事讲完整。

$$-2\ln L$$

3. 复杂度惩罚 k ln n：边数越多代价越高，防止为了拟合噪声而过度膨胀。

$$k\ln n$$

侦探不会只信单一口供，AI 从业者也不该只跑一遍算法。稳定、可复现、经过交叉验证的因果图，才是能真正落地的因果发现。

AI 应用场景

Python 演示

"""时序 LiNGAM 教学演示：从合成数据中恢复因果链 X -> M -> Y"""import numpy as np  def gen_series(n=3000, seed=42):    """用非高斯（均匀分布）噪声生成滞后因果链 X -> M -> Y"""    rng = np.random.default_rng(seed)    ex = rng.uniform(-1.0, 1.0, n)    em = rng.uniform(-1.0, 1.0, n)    ey = rng.uniform(-1.0, 1.0, n)    x = np.zeros(n)    m = np.zeros(n)    y = np.zeros(n)    for t in range(1, n):        x[t] = ex[t]        m[t] = 0.7 * x[t - 1] + em[t]        y[t] = 0.6 * m[t - 1] + 0.3 * x[t - 1] + ey[t]    return x, m, y  def build_augmented(x, m, y, lag=1):    """把滞后变量拼接进同一张表，让快照式 LiNGAM 看到时序结构"""    rows = []    for t in range(lag, len(x)):        rows.append([x[t], m[t], y[t], x[t - 1], m[t - 1], y[t - 1]])    names = ['x_t', 'm_t', 'y_t', 'x_prev', 'm_prev', 'y_prev']    return np.array(rows, dtype=float).T, names  def dep_score(source, target):    """独立性得分：残差与来源平方的相关越小越独立"""    coef = np.polyfit(source, target, 1)    resid = target - (coef[0] * source + coef[1])    return abs(np.corrcoef(resid, source ** 2)[0, 1])  def find_root(data):    """返回最外生变量的行号：对它回归后残差整体最独立"""    m = len(data)    scores = []    for i in range(m):        vals = [dep_score(data[i], data[j]) for j in range(m) if j != i]        scores.append(np.mean(vals))    return int(np.argmin(scores))  def direct_lingam(data, names):    """DirectLiNGAM：反复找到源头 -> 剥离影响 -> 得到因果顺序"""    rows = list(range(len(data)))    work = data.copy()    order = []    while len(rows) > 1:        r = find_root(work)        order.append(rows[r])        keep = [i for i in range(len(rows)) if i != r]        regs = []        for j in keep:            coef = np.polyfit(work[r], work[j], 1)            regs.append(work[j] - (coef[0] * work[r] + coef[1]))        work = np.array(regs)        rows = [rows[j] for j in keep]    order.append(rows[0])    return [names[i] for i in order]  def main():    x, m, y = gen_series()    data, names = build_augmented(x, m, y)    estimate = direct_lingam(data, names)    print('估计因果顺序:', estimate)    rank_x = min(estimate.index('x_t'), estimate.index('x_prev'))    rank_y = min(estimate.index('y_t'), estimate.index('y_prev'))    print('X 是否先于 Y 成为源头:', rank_x < rank_y)  if __name__ == '__main__':    main()

1. x[t] = ex[t]x 只由自己的非高斯噪声决定，是整条链的“谣言源头”。
2. m[t] = 0.7 * x[t - 1] + em[t]m 受上一时刻 x 带动，再叠加自己的噪声指纹。
3. y[t] = 0.6 * m[t - 1] + 0.3 * x[t - 1] + ey[t]y 同时受 m 与 x 的滞后影响。
4. build_augmented(...)把 x_t、m_t、y_t 与前一刻的取值拼进同一张表，让“快照式”LiNGAM 看到时序结构。
5. np.polyfit(source, target, 1)线性回归，模拟“剥离嫌疑人的影响力”的数学操作。
6. abs(np.corrcoef(resid, source ** 2)[0, 1])用残差与来源平方的相关性作为独立性打分：越小越独立。
7. find_root(work)每轮找出整体残差最独立的“最像源头”的变量。
8. work = np.array(regs)剥离当前源头影响后继续递归，直到排完所有变量。

常见误区

面试题