档案室深处,鉴定师老周接到一个难题:两份高度相似的文件 A 和 B,到底谁“参考”了谁?表面看,A 的经历、措辞、数据几乎都出现在 B 里,两者相关性高达 0.95。可如果只凭相似度,任何人都分不清方向。老周有个秘密武器——他观察的不是内容本身,而是笔迹的偏斜习惯。A 是手写稿,每个竖钩都习惯性往左偏(一种非对称特征);B 是从 A 誊抄的打印稿,虽为标准字体,却在这些竖钩的位置保留了 A 的独特偏斜痕迹。于是老周断定:A 在先,B 在后,A → B。 这正是本篇要讲的 GMM 因果发现。现实中,AI 系统面对海量统计数据,想知道谁推动了谁——是“广告点击带动了转化”,还是“转化引发了更多点击”?只要数据里藏着“非高斯的偏斜痕迹”,我们就能用一套叫“广义矩估计”(GMM)的鉴定流程,稳健地找出因果箭头。这篇文章,就带你从头到尾看懂这套流程的全貌。

岗位关联

数据可信层需要可靠的因果方向判别。掌握 GMM 因果发现,能让你在中大规模数据中高效判断变量间的因果序,为可解释 AI 提供坚实的数据底盘,是进阶因果推理工程师的必备武器。

目录
  1. 可视化演示
  2. LiNGAM背景
  3. 累积量特征
  4. 方向识别机制
  5. GMM估计框架
  6. 稳健性优势
  7. 小样本表现
  8. 工程落地
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

逐步展示LSTM单元的遗忘门、输入门、输出门三个门控的工作流程,包括细胞状态更新与隐藏状态输出,支持步进切换与自动播放。

本节配有交互动效(进入视口后自动加载,约 3KB)。

遗忘门:决定丢弃多少旧信息 sigmoid函数输出0-1之间的值,1表示完全保留,0表示完全遗忘 f_t = \u03C3(W_f · [h_{t-1}, x_t] + b_f) 遗忘门控制上一时刻细胞状态C_t-1的保留比例

LiNGAM背景

档案室的墙上有两条铁律。第一条:文件之间不能互相引用——A 参考了 B,B 又回头参考 A,这种文件会被直接扔进“无法鉴定”的废纸篓。第二条:判定依据必须来自文件本身可累加的特征。老周把这两条铁律称作“无环”与“线性”。

这两条铁律正是 LiNGAM(线性非高斯无环模型)的骨架。LiNGAM 是因果发现领域里一个简洁而深刻的框架:它假设每个可观测变量都是其父变量的线性函数,再加上一个独立的非高斯噪声。提出这个模型的动机,来自一个尖锐的观察——如果噪声服从高斯分布,无论从哪个方向做回归,两个方向的拟合优度都一模一样,因果方向就像被锁在镜子里,永远无法分辨。

LiNGAM 把生成过程写成如下矩阵形式:

老周看到这行式子,就像拿到了档案的“誊抄关系表”:B 记录了谁从谁那里抄了多少内容,e 则是每个人独一无二的笔迹。只有当 e 的“笔迹”不是标准印刷体时,他才能在双方文件之间找到方向线索。

x=Bx+e\displaystyle x = Bx + e
这行等式是整套因果发现的“卷宗总纲”:x 是观测变量向量,B 是因果系数矩阵,e 是各变量的独立非高斯噪声。
  1. 结构方程这行等式说明每个观测变量都由两部分构成——其他变量的线性组合 Bx,加上自身独立的随机扰动 e。
    x=Bx+e\displaystyle x = Bx + e
  2. 系数矩阵含义B 的第 i 行第 j 列元素 b_ij 表示变量 x_j 对 x_i 的直接影响强度,b_ij = 0 表示两者无直接因果边。
    Bij=bij\displaystyle B_{ij} = b_{ij}
  3. 线性组合展开把矩阵乘法逐行展开,每个 x_i 是所有 x_j 的线性叠加,这正是“线性假设”的数学表达。
    (Bx)i=∑j=1pbijxj\displaystyle (Bx)_i = \sum_{j=1}^{p} b_{ij} x_j
  4. 噪声非高斯要求e 的每个分量相互独立且必须非高斯,这是后续累积量方法能识别方向的必要前提。
    e=(e1,e2,…,ep)⊤,ei 非高斯\displaystyle e = (e_1, e_2, \ldots, e_p)^{\top}, \quad e_i \text{ 非高斯}

累积量特征

老周的鉴定工具箱里躺着一把“偏斜尺”——它能精确测量笔迹的倾斜倾向。普通人写字有左倾、右倾或无倾向之分,这把尺子把这个“倾向度”量化成数字。对老周来说,不同人的笔迹偏斜习惯,就是区分来源的指纹。

这把“偏斜尺”在统计学上的名字叫三阶累积量(也就是偏度的分子)。它的定义很朴素:把每个观测值偏离均值的距离取三次方,再求平均。因为三次方保留了正负号,所以右偏的分布得到正值,左偏的分布得到负值,而完全对称的高斯分布恰好得到 0。

除了三阶累积量,四阶以上的“过度累积量”(如峰度超出量)也能充当更丰富的笔迹特征。高斯分布的所有高阶累积量都是 0——它就像最标准的印刷体,任何人都无法从中辨认书写者的个性。

κ3(x)=E[(x−μ)3],μ=E[x]\displaystyle \kappa_3(x) = E\left[(x - \mu)^3\right], \quad \mu = E[x]
三阶累积量衡量分布的不对称程度,是识别非高斯“指纹特征”的最小单位;高斯分布的这个值为 0,因此没有任何方向线索。
  1. 均值中心化先用 x - μ 减去均值,只看“偏离程度”,避免位置参数干扰鉴定结果。
    x−μ,μ=E[x]\displaystyle x - \mu, \quad \mu = E[x]
  2. 三次幂运算对偏离量取三次方,正偏离仍为正、负偏离仍为负,不对称性得以显现。
    (x−μ)3\displaystyle (x - \mu)^3
  3. 期望运算对所有样本取平均,得到总体层面的三阶中心矩,记作累积量。
    κ3(x)=E[(x−μ)3]\displaystyle \kappa_3(x) = E[(x - \mu)^3]
  4. 符号判读κ₃ > 0 表示右偏(右侧有长尾),κ₃ < 0 表示左偏,κ₃ = 0 表示对称分布。
    κ3(x)>0  ⟺  右偏,κ3(x)=0  ⟺  对称\displaystyle \kappa_3(x) > 0 \iff \text{右偏}, \quad \kappa_3(x) = 0 \iff \text{对称}

方向识别机制

老周要使出绝活了。他先假设“A 誊抄了 B”(y→x 方向),做了一次“痕迹剥离”——把 B 的特征从 A 中减去,留下残余痕迹。结果发现残余里还残留着 B 的偏斜笔迹,说明剥离不干净,这个方向是错的。换一个假设“A 影响了 B”(x→y 方向),同样剥离,残余里干干净净。方向,就此锁定。

这个“剥离试验”在数学上对应方向不可逆性:真实模型 x→y 时,y = bx + e_y,正向回归的残差 e_y 与 x 独立;而反向回归的残差 e_x 与 y 之间必然存在高阶依赖性。这种依赖性可以用三阶交叉累积量来度量:

κ3(y,ex)eq0\displaystyle \kappa_3(y, e_x) eq 0

绿线干净、红线残留——老周的剥离试验和交叉累积量判据,本质上是在验证“哪一个方向的残差更像独立噪声”。

κ3(x,ey)=0  and  κ3(y,ex)eq0  ⇒  x→y\displaystyle \kappa_3(x, e_y) = 0 \; \text{and} \; \kappa_3(y, e_x)eq 0 \;\Rightarrow\; x \rightarrow y
正确的因果方向使残差与原因变量“互不相干”(交叉累积量为 0),错误方向则暴露出残留的偏斜依赖。
  1. 交叉累积量定义定义 x 与残差 e_y 之间的三阶交叉累积量,用于捕捉高阶非线性依赖。
    κ3(x,ey)=E[(x−E[x])(ey−E[ey])2]\displaystyle \kappa_3(x, e_y) = E\left[(x - E[x])(e_y - E[e_y])^2\right]
  2. 独立性蕴含零x 与 e_y 独立时,联合期望可分解为两个边缘期望的乘积,而 E[x - E[x]] = 0,所以整个式子为 0。
    x⊥ey  ⇒  κ3(x,ey)=E[x−E[x]]⋅E[(ey−E[ey])2]=0\displaystyle x \perp e_y \;\Rightarrow\; \kappa_3(x, e_y) = E[x - E[x]] \cdot E[(e_y - E[e_y])^2] = 0
  3. 方向不对称性反向拟合 y→x 时,残差 e_x 中混入了 x 的非高斯信息,与 y 的交叉累积量一般非 0。
  4. 判据应用分别计算两个方向的交叉累积量绝对值,得分小者(更接近 0)获胜,方向就此确定。
    score(x→y)<score(y→x)  ⇒  d^=x→y\displaystyle \text{score}(x \to y) < \text{score}(y \to x) \;\Rightarrow\; \hat{d} = x \to y

GMM估计框架

老周的鉴定从不用单一特征下结论。竖钩的倾斜度、横画的轻重、撇捺的长度比……每一条线索都构成一条“鉴定准则”。他会把所有线索打分后加权汇总,得出综合判断。这种“多条准则、加权裁决”的流程,就是广义矩估计(GMM)的核心理念。

GMM 把因果方向的判断转化为一组矩条件。矩条件是形如 E[g(z, θ)] = 0 的方程,其中 z 是观测数据,θ 是待估参数,g 是由非高斯累积量构造的约束函数。GMM 的目标,是找到参数 θ 让所有样本矩条件的平均值尽量接近 0。

就像鉴定师把多条线索加权汇总,GMM 把所有累积量条件放入一个目标函数,用最小化获得因果方向的稳健判断。

θ^=arg⁡min⁡θ  gˉ(θ)⊤Wn gˉ(θ),gˉ(θ)=1n∑i=1ng(zi,θ)\displaystyle \hat{\theta} = \arg\min_{\theta} \; \bar{g}(\theta)^{\top} W_n \, \bar{g}(\theta), \quad \bar{g}(\theta) = \frac{1}{n}\sum_{i=1}^{n} g(z_i, \theta)
GMM 把多个累积量约束装进一个“加权打分器”:哪个 θ 能让综合得分最低,哪个就是最可信的因果方向和强度估计。
  1. 样本矩向量$\bar{g}(\theta)$ 是每个矩条件在全部样本上的平均值,代表“平均偏离程度”。
    gˉ(θ)=1n∑i=1ng(zi,θ)\displaystyle \bar{g}(\theta) = \frac{1}{n}\sum_{i=1}^{n} g(z_i, \theta)
  2. 二次型目标函数$\bar{g}^{\top} W \bar{g}$ 把多个矩条件的偏离值综合成一个标量得分,矩阵乘法实现加权求和。
    Qn(θ)=gˉ(θ)⊤Wn gˉ(θ)\displaystyle Q_n(\theta) = \bar{g}(\theta)^{\top} W_n \, \bar{g}(\theta)
  3. 权重矩阵作用W_n 给不同矩条件分配重要性,估计更精确的矩条件权重更大,噪声大的矩条件权重更小。
    Wn=Cov^(g(z,θ))−1\displaystyle W_n = \widehat{\text{Cov}}(g(z, \theta))^{-1}
  4. 最小化求解通过数值优化寻找使 Q_n(θ) 最小的 θ,该解即 GMM 估计量。
    θ^=arg⁡min⁡θQn(θ)\displaystyle \hat{\theta} = \arg\min_{\theta} Q_n(\theta)

稳健性优势

为什么老周不用更省事的“模板比对”?因为模板比对要求他事先知道确切的字迹模型——如果档案纸被水泡过、墨迹洇开,模板就失效了。而特征线索鉴定只要大方向的特征还在,泡过水的纸也能认出来。

这个区别对应最大似然与 GMM 的本质分水岭。最大似然估计必须先假设噪声服从某种具体分布(拉普拉斯、t 分布等),再写出似然函数。一旦真实分布与假设不符——这就是模型误设——似然函数本身写错了,估计自然有偏。GMM 只需要矩条件在真值处成立,对分布的具体形状不敏感:

被水泡过的档案纸,ML 的“模板”对不上号了,GMM 的“笔迹特征”却依然可靠——这就是它在中大规模数据实战中备受青睐的原因。

Etrue[g(z,θ0)]=0  ⇒  θ^GMM→pθ0\displaystyle E_{\text{true}}\left[g(z, \theta_0)\right] = 0 \;\Rightarrow\; \hat{\theta}_{GMM} \xrightarrow{p} \theta_0
只要因果结构产生的累积量约束在真实分布下依然成立,GMM 就仍能一致地收敛到真值,这正是它对误设稳健的根源。
  1. 真实分布下的矩条件GMM 不要求知道真实分布是哪种,只要求矩条件在真值 θ₀ 处成立。
    Etrue[g(z,θ0)]=0\displaystyle E_{\text{true}}\left[g(z, \theta_0)\right] = 0
  2. 概率收敛随着样本量 n 增大,GMM 估计量以概率收敛到 θ₀,即大样本下几乎必然逼近真值。
    θ^GMM→pθ0\displaystyle \hat{\theta}_{GMM} \xrightarrow{p} \theta_0
  3. 稳健性来源矩条件基于分布的整体形状特征(累积量),对局部扰动和分布细节不敏感。
    g(z,θ) 只依赖累积量,不依赖完整分布族\displaystyle g(z, \theta) \text{ 只依赖累积量,不依赖完整分布族}

小样本表现

指纹也有失灵的时候。如果老周只拿到半页纸、几行字,偏斜特征还没完全显露,鉴定就很容易出错。高阶矩对样本量尤其敏感:样本越少,估计出的“笔迹特征”抖动越大,甚至可能把左右倾搞反。

过度累积量是基于三阶、四阶矩的统计量,其估计方差随样本量衰减得比均值慢得多。这是所有基于非高斯性的因果发现方法共有的软肋:

老周的经验法则很简单:至少要拿到几百行“笔迹样本”才敢下结论;如果文件偏斜特别明显,几百行也够用。数据越偏斜、累积量越强,样本量门槛就越低。

Var(κ^3)=O ⁣(1n)\displaystyle \text{Var}\left(\hat{\kappa}_3\right) = O\!\left(\frac{1}{n}\right)
三阶累积量估计量的方差以 1/n 的速度衰减,标准差则以 1/√n 的速度衰减——这意味着在小样本下,方向得分的不确定性会急剧放大。
  1. 估计量方差$\hat{\kappa}_3$ 的方差反比于样本量 n,样本翻 4 倍,标准差才减半。
    Var(κ^3)=cn\displaystyle \text{Var}(\hat{\kappa}_3) = \frac{c}{n}
  2. 收敛速率标准差随 n 的平方根衰减,这与一阶矩估计的速率一致,但常数 c 通常大得多。
    sd(κ^3)=cn\displaystyle \text{sd}(\hat{\kappa}_3) = \frac{\sqrt{c}}{\sqrt{n}}
  3. 实践含义样本量不足时,两个方向的得分差可能被估计噪声淹没,导致方向判断不可信。
    需要 ∣κ3(x,ey)−κ3(y,ex)∣>2⋅sd(κ^3)\displaystyle \text{需要 } |\kappa_3(x,e_y) - \kappa_3(y,e_x)| > 2 \cdot \text{sd}(\hat{\kappa}_3)

工程落地

档案室终于要数字化转型了。老周把整套笔迹鉴定流程写成了软件系统,接入了公司的归档平台。系统每天自动扫描成千上万份文件,先做初步筛查,再对可疑文件用多特征综合鉴定,最后在界面上标注鉴定置信度。每一份鉴定报告,都成为公司数据可信度体系的一部分。

在数据可信层,GMM 因果发现正是这样被部署的:针对数百个变量规模的中型数据,先用相关性分析圈定可疑变量对,再用 GMM 的累积量矩条件判定方向,最后人工抽查验证。工程上的计算代价可以用复杂度来预判:

老周的数字化系统上线后,第一周就自动判定了三百多对变量的因果方向,准确率超过九成。GMM 因果发现,就这样从档案室的直觉,变成了数据可信层里一台不知疲倦的“方向鉴定仪”。

Cost(n,p)=O(np2+p3)\displaystyle \text{Cost}(n, p) = O(n p^2 + p^3)
n 是样本量,p 是变量个数。样本矩计算贡献 n·p² 的代价,权重矩阵的求逆或分解贡献 p³ 的代价——这就是“数百变量友好,数千变量吃力”的数学根源。
  1. 样本矩计算项计算所有变量两两之间的高阶矩需要遍历 n 个样本和 p² 对变量组合。
    np2\displaystyle n p^2
  2. 矩阵求解项对权重矩阵求逆或做 Cholesky 分解的复杂度是变量数的三次方。
    p3\displaystyle p^3
  3. 工程选型依据当 p 增长时,p³ 项迅速主导,因此大规模场景需要分批估计或稀疏近似。
    p≫n  ⇒  优先考虑稀疏或降维策略\displaystyle p \gg n \;\Rightarrow\; \text{优先考虑稀疏或降维策略}

AI 应用场景

电商指标方向判定

阶段:数据治理与特征工程

解决的问题:数据仓库中大量业务指标统计显著相关,传统相关性分析无法区分因果方向,导致特征筛选和异常归因出现偏差。GMM 因果发现利用非高斯性识别指标的因果箭头,为数据可信层提供方向性保证。

具体案例:某电商平台发现“广告点击率”与“成交转化率”高度相关,但无法判断谁驱动谁。用户行为数据中,点击率分布呈现明显的长尾偏斜(非高斯)。GMM 因果发现基于三阶累积量矩条件判定点击率 → 转化率,团队据此将投放预算向点击率优化倾斜,转化效率显著提升。

微服务异常根因定位

阶段:可解释 AI 与 AIOps

解决的问题:微服务架构中,CPU 使用率、延迟、错误率在故障时同时飙升,需要快速定位根因变量,避免运维人员面对一大堆相关指标无从下手。GMM 通过非高斯累积量识别级联传播的因果链条,为告警降噪提供方向依据。

具体案例:某交易系统出现问题,五大指标同时异常。GMM 因果发现在五分钟内判定出“CPU 使用率 → 平均延迟 → 错误率”的因果链,运维团队沿着链路定位到一台异常服务器,抢在用户投诉前完成了扩容。

经济指标的时序因果校验

阶段:分析决策与报告

解决的问题:经济分析中常遇到“口号先行、数据打架”的困局:CPI 与 PPI 到底谁领先谁?用 GMM 的稳健矩条件,可以在不假设具体噪声分布的前提下给出方向证据,比简单回归更可信。

具体案例:某金融机构用 GMM 因果发现对 30 多个宏观指标进行因果筛查,发现“制造业 PMI → 工业增加值”的方向在多个时间段稳定成立,据此构建了领先指标模型,预测精度比传统相关法提高两成。

Python 演示

python40 行
import numpy as np  def third_cross_cumulant(a, b):    da = a - np.mean(a)    db = b - np.mean(b)    return np.mean(da * db ** 2)  def gmm_orient(x, y):    n = len(x)    b1 = np.polyfit(x, y, 1)[0]    e1 = y - b1 * x    score_xy = abs(third_cross_cumulant(x, e1))     b2 = np.polyfit(y, x, 1)[0]    e2 = x - b2 * y    score_yx = abs(third_cross_cumulant(y, e2))     direction = "x -> y" if score_xy < score_yx else "y -> x"    return direction, (score_xy, score_yx)  def simulate(n=2000, seed=42):    rng = np.random.default_rng(seed)    u = rng.uniform(size=n)    ex = np.where(u < 0.6, rng.normal(-1, 0.6, n), rng.normal(1.5, 0.8, n))    ey = rng.standard_t(df=5, size=n)    x = ex    y = 0.7 * x + ey    return x, y  if __name__ == "__main__":    x, y = simulate()    direction, scores = gmm_orient(x, y)    print("真值: x -> y")    print("GMM判断:", direction)    print("正向矩条件得分:", round(scores[0], 4))    print("反向矩条件得分:", round(scores[1], 4))
目的:用三阶交叉累积量作为矩条件,在仿真数据上比较正反两个因果方向的得分,自动判定 x→y 还是 y→x。
  1. def third_cross_cumulant(a, b):定义三阶交叉累积量,对应文中“笔迹的偏斜残留”的数学度量。
  2. return np.mean(da * db ** 2)先中心化再取三次方偏斜特征项,是矩条件的核心计算。
  3. b1 = np.polyfit(x, y, 1)[0]在 x→y 假设下拟合回归系数,相当于正向“痕迹剥离”。
  4. e1 = y - b1 * x计算正向残差,若方向正确,残差应像干净噪声。
  5. score_xy = abs(third_cross_cumulant(x, e1))正向矩条件得分,正确方向下应接近 0。
  6. score_yx = abs(third_cross_cumulant(y, e2))反向矩条件得分,错误方向下应明显偏大。
  7. ex = np.where(u < 0.6, rng.normal(-1, 0.6, n), rng.normal(1.5, 0.8, n))用混合高斯生成右偏的非高斯噪声,模拟“独特笔迹”。
  8. ey = rng.standard_t(df=5, size=n)用 t 分布生成重尾非高斯噪声,保证识别条件成立。

常见误区

误区觉得只要数据明显非高斯,GMM 就一定能给出正确方向,而且偏斜越强结果越可信。

正解非高斯是必要条件,不是充分条件。过强的重尾或极端离群值会让三阶矩的估计方差急剧膨胀,小样本下反而不稳定。如果分布接近对称(如均匀分布),三阶累积量接近 0,GMM 基本失去判别力,需要借助四阶累积量补充。判断可靠性要看“正反两个方向得分差”相对估计误差是否足够大。

为何常见:大家容易把“非高斯能识别”理解成“非高斯越厉害越好”,忽略了累积量也是随机变量、也有估计波动这一事实。

误区GMM 输出 x→y 后直接采信,认为算法给出了终极因果结论。

正解GMM 只能在线性、无环、非高斯噪声的假设下识别方向。如果数据存在隐藏混淆变量、关系本身非线性,或噪声接近高斯,输出就会失真。工程上必须结合领域知识、干预实验或稳定性检验交叉验证,把 GMM 当作“方向鉴定仪”而非“因果真理机”。

为何常见:自动化流程让我们天然信任黑盒输出,容易忘记所有因果发现都建立在可检验的前提假设之上。

误区认为只要样本量“还凑合”(比如几十条),GMM 就能像在大数据上一样给出可靠方向。

正解高阶累积量的估计方差正比于 1/n,几十个样本下两个方向的得分差很容易被噪声淹没。一般建议最低数百个样本起步,且样本量需求随偏斜强度变化:偏斜越明显,需要的样本越少。做小样本分析时务必备注置信度,而不是直接输出单一方向。

为何常见:一阶矩(均值)在小样本下就很稳定,大家容易把这个直觉错误地推广到三阶矩、四阶矩上。

误区既然都是估计参数,ML 和 GMM 结果应该差不多,选哪个无所谓。

正解当噪声分布被正确指定时,两者确实相近。但真实分布与假设不符时,ML 因似然函数写错而产生系统性偏差,GMM 的矩条件从累积量出发、不需要指定完整分布,面对误设更稳健。两者在“分布假设错误”的场景下,结果可能截然不同。

为何常见:教科书常把两者并列在“参数估计”章名下,初学者默认它们等价,忽视了 GMM 的稳健性来自对分布细节的“睁一只眼闭一只眼”。

面试题

Q1. LiNGAM 模型中,噪声项必须满足什么条件才能识别因果方向?

单选题 · easy

  • A.服从高斯分布
  • B.服从非高斯分布← 正确答案
  • C.保证方差为零
  • D.保证均值非零

答案:B。高斯分布的所有高阶累积量为 0,相当于“标准印刷体”没有方向特征;只有非高斯分布才能通过偏斜等累积量留下因果方向的“指纹”。所以 LiNGAM 识别方向的前提是噪声非高斯。

Q2. 三阶累积量为 0 通常说明什么?

单选题 · easy

  • A.分布即完全对称← 正确答案
  • B.分布表现为右偏
  • C.分布表现为左偏
  • D.对分布不设限制

答案:A。三阶累积量保留正负号,右偏取正、左偏取负,为 0 意味着分布左右对称,如高斯分布和均匀分布。此时方向识别失去重要线索。

Q3. 高斯分布为何不能用于 LiNGAM 方向识别?

单选题 · easy

  • A.高斯分布方差无限
  • B.高斯三阶累积量为零← 正确答案
  • C.高斯分布无均值可用
  • D.高斯无法线性拟合

答案:B。高斯分布的所有高阶累积量都为 0,正反两个方向的残差在统计特征上完全对称,像两份“标准印刷体”档案,鉴定师无法从字迹上分辨谁抄了谁。

Q4. 真实模型为 x→y 时,下面哪个矩条件应接近 0?

单选题 · mid

  • A.一阶交叉矩条件
  • B.三阶交叉累积量← 正确答案
  • C.四阶高阶峰度项
  • D.样本均值平方项

答案:B。x→y 时残差 e_y 与 x 独立,三阶交叉累积量 E[(x-E[x])(e_y-E[e_y])²] 可分解为 0。这是 GMM 判别方向的核心矩条件,对应“正剥离干净”。

Q5. GMM 目标函数中权重矩阵 W 的主要作用是什么?

单选题 · mid

  • A.扩大有效样本量
  • B.给矩条件分配权重← 正确答案
  • C.消除全部噪声
  • D.拟合非线性关系

答案:B。权重矩阵 W 让估计更精确的矩条件获得更大权重、噪声大的矩条件权重更小,相当于鉴定师给可靠线索更高打分权重。它不改变一致性,但影响估计效率。

Q6. 反方向回归得到的残差 e' 与 y 之间存在什么关系?

单选题 · mid

  • A.与 y 完全互相独立
  • B.与 y 存在累积量残留← 正确答案
  • C.其方差值恒等于零
  • D.必然服从高斯分布

答案:B。反向回归时残差中混入了原因变量的非高斯信息,与 y 的三阶交叉累积量一般非 0。这正是方向不可逆性的体现——反向“剥离”总留有余痕。

Q7. GMM 相比最大似然估计的稳健性体现在哪些方面?

多选题 · hard

  • A.免指定完整噪声分布← 正确答案
  • B.矩对分布形状不敏感← 正确答案
  • C.小样本照样完全无偏
  • D.面对误设更有抵抗力← 正确答案

答案:ABD。GMM 只需矩条件 E[g(z,θ₀)]=0 在真值处成立,不要求指定完整分布;矩条件基于整体累积量,对分布细节不敏感,因此模型误设时仍能保持一致估计。但小样本下高阶矩方差大,“完全无偏”说法错误。

Q8. 小样本下 GMM 因果发现不稳定的原因有哪些?

多选题 · hard

  • A.高阶矩估计方差大← 正确答案
  • B.样本矩难以估计准← 正确答案
  • C.一阶矩恒定为零
  • D.得分被噪声所淹没← 正确答案

答案:ABD。三阶、四阶矩的估计方差正比于 1/n,小样本下样本矩对真实累积量的反映很差,正反两个方向的得分差容易被估计噪声淹没。一阶矩是否为零与稳定性无关。

Q9. 若用恒等矩阵代替最优权重矩阵,GMM 估计会发生什么?

单选题 · extreme

  • A.结果与最优权重一致
  • B.效率更低但保持一致← 正确答案
  • C.参数一致性将会失去
  • D.会导致计算无法进行

答案:B。恒等权重把所有矩条件一视同仁,GMM 估计量依然一致(样本量足够时收敛到真值),但不再是渐近有效的,标准误变大。类比鉴定师给所有线索同样的分,方向结论可能含糊但不会必然出错。

Q10. GMM 因果发现在数据可信层的应用包括哪些?

多选题 · mid

  • A.区分相关与因果方向← 正确答案
  • B.异常告警的根因定位← 正确答案
  • C.直接产出标注标签
  • D.验证业务指标的因果← 正确答案

答案:ABD。GMM 用于判定业务指标间的因果箭头、帮助异常根因定位、验证数据仓库中指标推导关系是否方向正确。它本身是方向鉴别工具,不直接生产数据标注标签。