LiNGAM与非高斯：时序因果

可视化演示

三步展示时序因果发现：格兰杰因果检验VAR预测、LiNGAM非高斯噪声ICA方向识别、时序因果图延迟与混杂检测。

时序因果原理

排练开始前，指挥把上周的录音丢给你，谜题是：“鼓手带贝斯，还是贝斯带鼓手？”你第一反应是看时间戳：把录音铺成波形，每次鼓的重音落下去三拍之后，贝斯才跟着压下来。先发生的才可能驱动后发生的——时间是你请来的第一位目击证人，这也是“时序因果”最朴素的起点。

但目击证人偶尔会说谎。两支乐器经常一起变响，这叫相关；可它们可能都跟着同一个看不见的节拍器走，谁也没有驱动谁。于是统计学家提出一种更谨慎的问法：在已经用贝斯自己的历史做预测之后，再把鼓手过去的节拍也加进方程，如果预测误差明显变小，说明鼓的历史携带了贝斯未来的信息——这就是 Granger 因果的思想，它把“因果”翻译成“额外的预测力”。

写成回归方程就是：

所以指挥家把“时序因果”当作第一轮筛选：它回答“过去的 X 是否对现在的 Y 有独特解释力”，但它终究是基于预测的代理指标。真正的箭头方向，还需要 LiNGAM 这样的结构模型来定夺；而隐藏节拍器（混淆变量）造成的假象，也留到后面用独立性检验来拆穿。

LiNGAM模型假设

要当侦探，先立方程。指挥家假设每位乐手的输出都可以写成“别人的影响 + 自己的即兴”：贝斯此刻的声音，等于鼓手节拍乘以某个系数，再加上一段谁也学不来的即兴乐句。这个“输出方程”在统计学里叫结构方程模型（SEM），它把因果箭头的存在形式固定了下来。

LiNGAM 的全称是 Linear Non-Gaussian Acyclic Model，四个词对应四条假设：线性（影响按比例叠加）、非高斯（即兴要有“个性”）、无环（不能你带我、我又带你，形成循环）、无隐藏混淆（没有暗处的节拍器）。其中“非高斯”是点睛之笔，后面专门讲。

$$\displaystyle X_i = \sum_{j \in \mathcal{PA}(i)} b_{ij} X_j + e_i, \qquad e_i \perp\!\!\!\perp e_j \ (i \neq j), \quad e_i \text{ 非高斯}$$

1. 结果变量 $X_i$：观测到的第 $i$ 个变量的取值，比如贝斯的音量。

$$X_i$$

2. 直接原因集合 $\mathcal{PA}(i)$：因果图中直接指向 $X_i$ 的父节点集合，也就是“直接带节奏的乐手”。

$$\mathcal{PA}(i)$$

3. 因果系数 $b_{ij}$：原因 $X_j$ 每变化一个单位，结果 $X_i$ 随之变化 $b_{ij}$；例如鼓点强一拍，贝斯压低 0.8 格。

$$b_{ij} X_j$$

4. 噪声项 $e_i$：每位乐手各自的即兴发挥，与其他乐手无关，体现“未被解释的个性”。

$$e_i$$

5. 非高斯与独立性假设：$e_i$ 相互独立且必须非高斯，这是后续方向可识别的钥匙。

$$e_i \perp\!\!\!\perp e_j, \quad e_i \sim \text{非高斯}$$

有了这套方程，因果发现问题就变成：给定一堆观测数据，能否反推出系数 $b_{ij}$ 以及箭头的方向？答案藏在“非高斯”三个字里，下一节就是破案的关键。

非高斯识别关键

想象两类乐手：高斯乐手每个音符都从一条完全对称的钟形曲线上随机抽取，平均、无个性；非高斯乐手则充满尖峰、重音与偏斜，就像每人的指纹。指挥家很快发现：只有后者能帮他断案。因为如果噪声是对称的高斯分布，那么“鼓带贝斯”和“贝斯带鼓”两种方向会生成一模一样的联合分布——数据里根本找不到任何线索去区分箭头，这就是“高斯对称模糊”。

为什么非高斯能打破僵局？关键在一条简洁而深刻的定理。Darmois–Skitovich 定理告诉我们：如果两个统计上独立的量都是某些独立噪声的线性组合，那么任何一个“同时出现在两个组合里”的非高斯噪声都不可能存在。

$$\displaystyle Z_1 = \sum_{i} a_i e_i, \quad Z_2 = \sum_{i} b_i e_i, \quad Z_1 \perp\!\!\!\perp Z_2 \ \Longrightarrow\ \forall\, i: (a_i b_i \neq 0) \Rightarrow e_i \text{ 必须为高斯}$$

1. 两个线性组合 $Z_1, Z_2$：两个可观测的指标（如鼓与贝斯）都可以看成底层独立噪声的加权和。

$$Z_1 = \sum_i a_i e_i, \quad Z_2 = \sum_i b_i e_i$$

2. 独立性前提 $Z_1 \perp Z_2$：假设这两个组合在统计上相互独立，比如残差检验通过。

$$Z_1 \perp\!\!\!\perp Z_2$$

3. 共享成分必须高斯：任何一个同时出现在两个组合里的成分（即 $a_i b_i \neq 0$）都只能退化成高斯分布。

$$\forall i: a_i b_i \neq 0 \Rightarrow e_i \sim \mathcal{N}(0, \sigma^2)$$

4. 反推方向：非高斯成分不可能被两个独立组合共享。因此当“把 $y$ 对 $x$ 回归后的残差与 $x$ 独立”时，$x \to y$ 的方向就获得了唯一支持。

\text{若 } x \perp\!\!\!\perp (y - \hat{b}_{xy} x)，则方向为 } x \to y

落实到具体操作上：假设鼓导致贝斯，把贝斯对鼓回归，剩下的残差应与鼓完全独立；反过来假设贝斯导致鼓，把鼓对贝斯回归，残差里会残留鼓的“影子”。每当你看到一坨残差里还藏着领奏者的痕迹，就知道箭头画反了；残差干干净净，方向才站得住脚。

ICA分解算法

混音带只有一轨，指挥家却想听出原始的鼓声轨和贝斯声轨——这正是著名的“鸡尾酒会问题”：在嘈杂的派对上，人耳能神奇地分离出朋友的声音。独立成分分析（ICA）就是那台拥有“神耳”的调音设备：它假设观测信号是若干独立源信号的线性混合，然后想办法把源信号一一拆出来。

原始 LiNGAM（Shimizu 等，2006）的核心招数正是借用 ICA：把观测向量 $x$ 写成混合矩阵 $A$ 与独立成分 $s$ 的乘积，ICA 负责求出一个解混矩阵 $W$，使得估计出的成分尽可能独立。得到 $A$ 之后，因果系数矩阵 $B$ 可以从 $A$ 中恢复出来。这里非高斯性再次立功：如果成分是高斯的，$A$ 会带有一个任意的旋转自由度，无法唯一确定；非高斯性则让分解结果唯一。

$$\displaystyle x = A s, \qquad \hat{s} = W x, \qquad \text{目标：让 } \hat{s}_i \text{ 尽可能相互独立}$$

1. 观测混合 $x$：麦克风录下的混合声，即所有变量的观测值组成的向量。

$$x = A s$$

2. 混合矩阵 $A$：每一列代表某个独立成分在各观测中的权重，相当于调音台上各乐手的推子位置。

$$A = (a_{ij})$$

3. 独立成分 $s$：底层互不相关的源信号，对应每位乐手干净的个人声轨。

$$s = (s_1, s_2, \dots, s_n)^\top$$

4. 解混矩阵 $W$：ICA 求得 $W$，使 $\hat{s} = W x$ 的各分量尽量独立，理想情况下 $W = A^{-1}$。

$$\hat{s} = W x$$

5. 恢复因果排序：由 $A$ 还原出系数矩阵 $B$ 后，再做行置换使 $B$ 呈现“上三角/下三角全零”的形式，该排列就是满足无环假设的因果顺序。

$$P B P^\top \text{ 为严格三角阵}$$

混音台分离出的每条声轨，就是被还原的“独立乐手”；再按“谁不依赖任何人”排序，鼓手作为最外生的信号自然浮出水面。不过 ICA 是全局迭代方法，遇到局部最优或者乐手较多的场景会吃力——于是有了下一节的轻量级改进。

DirectLiNGAM改进

乐手增加到八个人时，混音台那套全局 ICA 又慢又不稳定，指挥家多次调整初始值仍难以收敛。他换了一个更朴素的“淘汰赛”思路：每次只问一件事——把某个候选领奏者从别人的声部里减掉之后，别人剩下的即兴里还有没有他的影子？没有影子的那位，就是最源头的外生变量。

数学上就是成对回归：对候选原因 $x_j$，用它去预测所有其他变量，得到残差；如果残差与 $x_j$ 相互独立，说明 $x_j$ 不依赖任何人、只影响别人——它是全场最“外生”的。选定之后把它的影响从数据中剥离，再在剩余变量上重复同样的比赛，直到排完整个因果顺序。这就是 DirectLiNGAM（Shimizu 等，2011）的基本流程。

$$\displaystyle \hat{e}_i^{(j)} = x_i - \frac{\operatorname{Cov}(x_i, x_j)}{\operatorname{Var}(x_j)} x_j$$

1. 候选原因 $x_j$：当前怀疑是源头乐手的变量，比如鼓手。

$$x_j$$

2. 最小二乘斜率：用协方差除以方差，求 $x_j$ 对 $x_i$ 的回归斜率，即“鼓手每强一拍，贝斯跟着变多少”。

$$\hat{b}_{ji} = \frac{\operatorname{Cov}(x_i, x_j)}{\operatorname{Var}(x_j)}$$

3. 残差 $\hat{e}_i^{(j)}$：从 $x_i$ 中扣除 $x_j$ 的线性影响后剩下的部分，即“被剥离主旋律后的即兴残响”。

$$\hat{e}_i^{(j)} = x_i - \hat{b}_{ji} x_j$$

4. 独立性判据：若 $x_j$ 与所有残差都独立，则 $x_j$ 是外生变量，应排在因果顺序最前面。

$$x_j \perp\!\!\!\perp \hat{e}_i^{(j)}, \quad \forall i \neq j$$

这种“成对减影淘汰赛”不再需要全局分解，每一步只做几次回归和独立性检验，计算更快也更稳。最终顺序里往往鼓手最先出线，接着是贝斯——每一个位置都经过残差独立性的严格检验，证据链完整闭环。

VAR时序扩展

前面几节都在处理“同一时刻”的混音；可真正的曲目是跨小节的：贝斯此刻的声音，可能源自三拍前的鼓点、六拍前的自己，甚至与同一拍的吉他有瞬时呼应。指挥家把整张谱子摊开，时间轴一列一列排开，看到的是密密麻麻的“跨时刻因果线”。

VAR-LiNGAM 把两种效应装进同一个模型：滞后效应（过去时刻的因果）用向量自回归（VAR）描述，瞬时效应（同一时刻的因果）用 LiNGAM 的瞬时系数矩阵 $B_0$ 描述。二者分工明确——时间先后天然解决滞后方向，非高斯性则接手瞬时方向。这一设计也让它能处理带反馈的时间序列：只要瞬时图无环，滞后结构允许存在回路。

$$\displaystyle x_t = \sum_{\tau=1}^{p} B_\tau x_{t-\tau} + B_0 x_t + e_t, \qquad e_t \text{ 非高斯且相互独立}$$

1. 当前向量 $x_t$：所有变量在第 $t$ 时刻的取值，好比这一刻全体乐器的输出。

$$x_t$$

2. 滞后项 $\sum_{\tau=1}^{p} B_\tau x_{t-\tau}$：过去 $p$ 个时刻对当前的影响，如鼓手三拍前的重音对此刻贝斯的牵引。

$$\sum_{\tau=1}^{p} B_\tau x_{t-\tau}$$

3. 瞬时项 $B_0 x_t$：同一时刻变量之间的同期效应，对应齐奏瞬间彼此直接的带动。

$$B_0 x_t$$

4. 噪声项 $e_t$：不可预测的即兴成分，要求非高斯且各时刻相互独立。

$$e_t$$

摊开谱子的指挥家终于能画出完整的跨小节因果线：鼓手三拍前的一击，在贝斯此刻的音符上留下 0.8 的残响——这就是时序因果最完整的答案。时间轴负责锁死滞后方向，非高斯指纹负责锁定同期方向，两个工具合在一起，录音带里的因果网络便无处遁形。

工程实践与局限

现实录音棚总是不完美的：暗处可能藏着一个所有乐手都在听的节拍器（隐藏混淆），乐队中场可能换了风格（非平稳），混音里还有底噪。指挥家知道，这些意外都会让断案翻车。因此 LiNGAM 的工程实践，本质上是一条“先打扫现场、再收集证据”的流水线。

实践中通常先做预处理：对非平稳序列做差分或去趋势，对变量做标准化以消除量纲；然后逐条核对假设——是否存在已知混淆、同期图是否有环、噪声是否真的非高斯。最难防的是隐藏混淆：当一个看不见的因素 $f$ 同时影响两个变量时，两个方程的误差项就不再独立，LiNGAM 会据此画出假箭头。

$$\displaystyle e_i = \lambda_i f + u_i, \qquad e_j = \lambda_j f + u_j \quad\Rightarrow\quad e_i \text{ 与 } e_j \text{ 不再独立}$$

1. 隐藏因素 $f$：不可观测的共同节拍器，比如车间温度、宏观政策等潜在混淆变量。

$$f$$

2. 影响载荷 $\lambda_i$：$f$ 对变量 $i$ 的影响强度，相当于“节拍器音量开到几格”。

$$\lambda_i f$$

3. 各自残余噪声 $u_i$：剥离 $f$ 之后真正属于乐手自己的即兴，仍然独立。

$$u_i$$

4. 独立性被破坏：因为 $e_i$ 与 $e_j$ 都包含 $f$，二者不再独立，LiNGAM 核心假设失效，方向识别随之失准。

$$e_i \perp\!\!\!\perp e_j \text{ 不再成立}$$

知道何时不该相信自己的耳朵，是侦探与指挥家共通的专业素养。带着这些边界去应用，LiNGAM 才能成为可解释 AI 与决策分析中可信的因果引擎——它不承诺永远正确，但承诺在假设满足时给出有方向、可追溯的答案。

AI 应用场景

Python 演示

import numpy as np  def rank_normalize(a):    # 把数组转成均匀分布的秩次, 用于稳健的独立性检验    order = a.argsort().argsort()    return (order + 1) / (len(a) + 1)  def dep_score(x, r):    # 依赖度: 秩相关 + 秩对二次残差的相关, 独立时接近 0    xr = rank_normalize(x)    rr = rank_normalize(r)    c1 = abs(np.corrcoef(xr, rr)[0, 1])    c2 = abs(np.corrcoef(xr, rr ** 2)[0, 1])    return c1 + c2  def pairwise_direction(x, y):    # 对两个标准化变量分别假设 x->y 与 y->x, 计算残差依赖度    sx = (x - np.mean(x)) / np.std(x)    sy = (y - np.mean(y)) / np.std(y)    b_xy = np.dot(sx, sy) / np.dot(sx, sx)    b_yx = np.dot(sx, sy) / np.dot(sy, sy)    r_xy = sy - b_xy * sx    r_yx = sx - b_yx * sy    return dep_score(sx, r_xy), dep_score(sy, r_yx)  def make_series(n=600, gaussian=False, seed=0):    rng = np.random.default_rng(seed)    if gaussian:        x = rng.normal(0, 1, n)        noise = rng.normal(0, 0.35, n)    else:        x = rng.uniform(-1, 1, n)        spike = rng.random(n) < 0.06        x[spike] = rng.normal(0, 3, int(spike.sum()))        noise = rng.uniform(-0.4, 0.4, n)    y = np.zeros(n)    for t in range(3, n):        y[t] = 0.8 * x[t - 3] + noise[t]    return x, y  def report(tag, x, y):    # 对齐时间窗: 用 x 的过去解释 y 的现在    xa, ya = x[:-3], y[3:]    s_xy, s_yx = pairwise_direction(xa, ya)    diff = s_xy - s_yx    if abs(diff) < 0.02:        conclusion = "难以区分方向"    else:        conclusion = "x 导致 y" if s_xy < s_yx else "y 导致 x"    print(tag, "正向依赖度:", round(s_xy, 4), "逆向依赖度:", round(s_yx, 4), "=>", conclusion)  if __name__ == "__main__":    x, y = make_series(gaussian=False)    report("非高斯噪声:", x, y)    xg, yg = make_series(gaussian=True)    report("高斯噪声:  ", xg, yg)    print("高斯情形两方向分数接近, LiNGAM 无法区分因果方向")

1. order = a.argsort().argsort()把观测值转成秩次，让独立性度量对异常尖峰更稳健
2. x[spike] = rng.normal(0, 3, int(spike.sum()))给少量帧注入大幅值尖峰，制造非高斯“演奏指纹”
3. xa, ya = x[:-3], y[3:]错开三拍对齐时间窗，用 x 的过去解释 y 的现在
4. b_xy = np.dot(sx, sy) / np.dot(sx, sx)最小二乘求“y 对 x”的回归斜率
5. r_xy = sy - b_xy * sx正方向残差；方向正确时它应与 x 独立
6. c1 = abs(np.corrcoef(xr, rr)[0, 1])秩相关捕捉线性依赖
7. c2 = abs(np.corrcoef(xr, rr ** 2)[0, 1])二次秩相关捕捉残差里的“漏斗形”依赖
8. if abs(diff) < 0.02:两方向分数接近时不下结论，对应高斯噪声下的方向不可识别

常见误区

面试题