DECI：可微因果影响因式分解

可视化演示

动态演示DECI的核心机制，通过总览/传输/转换/输出四种模式展示关键概念与交互流程。

DECI 初印象

阿理站在水鸣市的中央控制室里，墙上挂着几十张水压曲线。他需要回答一个看似简单的问题：这些读数之间，谁在“指挥”谁？如果 1 号井水压升高，3 号井总是跟着变动，是 1 号管道直接通向 3 号，还是中间隔着某段隐蔽的管廊？因果发现要解决的就是这类问题：给定一堆观测变量，判断变量之间的因果结构。在 DECI 出现之前，大部分方法要么遍历所有可能的图（变量一多立刻爆炸），要么用独立性检验做局部筛选（对非线性关系往往失灵）。DECI 换了一个思路：不把“图搜索”当成离散拼图，而是把它包装成一个可微分的连续优化问题，让数据自己“流”向正确答案。

DECI 的完整框架可以拆成三大组件：一个可微的图生成器，负责产生候选因果图；一个结构方程模型，负责描述“父节点如何影响子节点”；一个评分目标，负责衡量当前图解释数据的能力。三者串成一条完整链路，就像阿理的检修流程：先拧动一组旋钮（图生成），再观察水压模拟结果（结构方程），最后对比真实数据打分（评分函数）。因为每一步都可微，阿理可以通过梯度信息知道“旋钮往哪个方向转，分数会变得更好”。

这种“可微”的动机很朴素：地下管网可能有上万根管道，如果每次只试一开一关，一辈子都试不完。但如果你能算出水压对旋钮开度的导数，就像有了一个隐形向导，每走一步都在提示最陡峭的下降方向，寻路效率会成百上千倍提升。

$$\displaystyle \mathcal{G} = (V, E), \quad e_{ij} \in \{0, 1\}$$

1. 顶点集合：$$V = \{v_1, v_2, \dots, v_d\}$$，代表所有被观测的变量，比如水压、温度、产量。

2. 边集合：$$E \subseteq V \times V$$，代表变量之间可能存在的因果箭头。

3. 二值指示：$$e_{ij} \in \{0, 1\}$$，表示从变量 \(j\) 到变量 \(i\) 的边是否存在，这是传统图的“开关式”写法。

传统因果发现正是在这个 0/1 空间里搜索，而 DECI 的第一步，就是把这个“开关”改造成“旋钮”。

连续邻接矩阵

阿理以前检修管道，只能把阀门彻底打开或完全关死，观察前后水压差，再猜测管道是否连通。这种“开关式”测量简单，但信息量太少：如果某根管道半堵不堵，开关测试很容易给出错误判断。于是阿理换了一种方式：把阀门换成可连续旋转的旋钮，每转 1 度记录一次水压，这样得到的不再是“通或不通”，而是一个连续变化的强度曲线——这正是 DECI 的核心操作：将离散边指示 \(e_{ij}\) 放宽为连续邻接矩阵 \(\mathbf{W}\)。

在 DECI 中，矩阵 \(\mathbf{W}\) 的每个元素 \(w_{ij}\) 表示“变量 \(j\) 到变量 \(i\) 之间候选边的权重”。权重接近 0，表示这条边几乎不存在；权重接近 1，表示这条边大概率存在。优化过程就像阿理拧旋钮：一边观察水压（数据拟合），一边约束自己不能拧出“循环回路”——因为真实因果图必须是无环的，一根水管不能把水送回自己源头形成闭环。

为了让无环这个离散条件也能被梯度优化处理，DECI 借用了 NOTEARS 的经典技巧，把“有没有环”变成一个光滑的函数：

$$\displaystyle h(\mathbf{W}) = \operatorname{tr}\left(e^{\mathbf{W} \circ \mathbf{W}}\right) - d = 0$$

1. 逐元素平方：$$\mathbf{W} \circ \mathbf{W}$$，把权重矩阵每个元素平方，让正值和负值都变成非负量，方便后续检测环。

2. 矩阵指数：$$e^{\mathbf{W} \circ \mathbf{W}}$$，把平方后的矩阵做指数映射，得到一个非负矩阵，矩阵幂级数中会累积“沿边绕一圈回到原点”的信息。

3. 求迹：$$\operatorname{tr}(\cdot)$$，取矩阵主对角线元素之和，有环时对角线会出现正贡献，无环时没有。

4. 减去节点数：$$-d$$，做一个“归零校准”：无环时整体等于 0，有环时大于 0，从而形成光滑的无环惩罚项。

通过把“无环”这个条件写成光滑函数，阿理就可以放心大胆地使用梯度下降：旋钮每转一步，既考虑数据拟合程度，又受到无环约束的牵引，最终收敛到一个既能解释数据、又不会出现循环回路的因果图上。

可微推断原理

有了连续旋钮和无环约束，接下来最关键的问题是：如何定义“这把旋钮拧得好不好”？阿理的评价标准很直观——把当前推测的管网结构代入模型，模拟出每个观测井的水压，再与实际水压对比，差异越小越好。但 DECI 比这更进一步：它不直接选一个确定的图，而是维护一个“图的概率分布”，每次从这个分布中采样若干个候选图，用它们的平均表现来打分。这种做法好比阿理前几次检修时手头有多个备选方案，他会给每个方案一个置信度，而不是孤注一掷。

DECI 的目标函数是一个变分下界（ELBO），它衡量的是：在给定数据 \(X\) 时，某个图分布 \(q_\phi(\mathcal{G})\) 能多好地解释数据，同时又不偏离我们对图的先验认知：

$$\displaystyle \hat{\mathcal{L}}(\theta, \phi) = \mathbb{E}_{G \sim q_\phi(\mathcal{G})} \left[ \ln p_\theta(X \mid G) + \ln p(G) - \ln q_\phi(G) \right]$$

1. 图分布采样：$$G \sim q_\phi(\mathcal{G})$$，用参数为 \(\phi\) 的分布生成候选图，相当于阿理随机挑出几套管网方案。

2. 数据对数似然：$$\ln p_\theta(X \mid G)$$，给定当前图，真实数据被解释得有多好，相当于模拟水压与实际水压的吻合度。

3. 先验项：$$\ln p(G)$$，对过于复杂或违背常识的图进行惩罚。

4. 信息熵项：$$-\ln q_\phi(G)$$，鼓励图分布不要过早收缩到某个单一图，保留探索空间。

5. 期望运算：$$\mathbb{E}[\cdot]$$，对所有候选图取平均，得到稳定的综合评分。

整个优化过程沿着梯度反复迭代：计算当前分布下评分对参数 \(\theta\) 和 \(\phi\) 的梯度，然后用反向传播更新它们。阿理就像在暗室里一边拧旋钮一边看压力表，每次微调都让模拟更接近真实，最终分布会逐渐集中到真正能把数据解释清楚的因果结构上。

深度结构方程

当阿理知道两口水井之间有管道，他还想知道管道粗细、闸门特性等细节。在因果图里，这些细节由“结构方程”描述：给定父节点的值，子节点如何被生成。传统线性因果模型假设所有关系都是直线，但现实中的水压关系往往是非线性的——阀门开度与流量之间可能呈 S 型曲线，温度变化也可能改变管壁阻力。DECI 用深度神经网络来表示这些机制函数，让模型具备强大的非线性拟合能力。

DECI 采用加性噪声模型作为基本框架：每个变量的值等于“父节点的某个函数”加上一个独立的随机噪声：

$$\displaystyle x_i = f_i(x_{\mathrm{PA}_i}) + u_i, \quad u_i \sim \mathcal{N}(0, \sigma_i^2)$$

1. 父节点集合：$$x_{\mathrm{PA}_i}$$，图中直接指向 \(x_i\) 的所有变量的取值，它们构成子节点的“上游水源”。

2. 机制函数：$$f_i(\cdot)$$，由深度神经网络表示，把父节点映射到子节点的期望值，刻画非线性因果机制。

3. 加性噪声：$$u_i$$，独立于父节点的随机扰动，代表未纳入模型的微小随机因素。

4. 高斯分布假设：$$\mathcal{N}(0, \sigma_i^2)$$，假设扰动服从零均值高斯分布，便于写出似然并进行梯度计算。

整幅图的联合分布可以“因式分解”成每个变量条件分布的乘积，这正是标题中“因式分解”的含义：\(p(X) = \prod_{i=1}^{d} p(x_i \mid x_{\mathrm{PA}_i})\)。阿理从全局水压数据出发，把庞大管网拆成一个个单管段的局部规律，逐一学习，最后再拼成完整的因果图。

对比 NOTEARS

在 DECI 出现之前，NOTEARS 已经率先把因果发现从离散搜索拉到连续优化阵营。你可以把 NOTEARS 想象成阿理的第一代“电动旋钮设备”：它同样使用连续邻接矩阵 \(\mathbf{W}\)，同样用 \(h(\mathbf{W})\) 保证无环，但它用的是一个确定性的最小二乘型评分：直接让当前权重重构数据，并加上无环惩罚：

$$\displaystyle \min_{\mathbf{W}} \; \ell(\mathbf{W}; \mathbf{X}) + \lambda \cdot h(\mathbf{W})$$

1. 数据拟合损失：$$\ell(\mathbf{W}; \mathbf{X})$$，衡量用当前连续权重重构观测数据的误差。

2. 无环惩罚：$$\lambda \cdot h(\mathbf{W})$$，用超参数 \(\lambda\) 控制无环约束的强度。

3. 最小化目标：$$\min_{\mathbf{W}}$$，在连续权重空间不断下滑，找最优矩阵。

DECI 与 NOTEARS 最大的区别在于三点。第一，NOTEARS 直接优化一个确定性矩阵，而 DECI 优化的是一个图分布，再从中采样。第二，NOTEARS 的损失通常基于显式回归表达式，而 DECI 的损失是变分下界，天然支持潜变量、缺失数据和干预数据扩展。第三，NOTEARS 更擅长快速求解线性或简单非线性场景，DECI 借助深度神经网络和生成式框架，在处理复杂非线性机制和隐变量时更灵活。就像第一代旋钮设备只能测单一管径，而 DECI 能同时考虑多套备选方案，还能把“看不见的渗漏”纳入模型。

潜在混淆因子

阿理在检修中发现一个棘手现象：1 号井和 3 号井的水压总是同步涨落，看起来像有管道直连。但挖开地面后，他发现真正的原因是地下深处有一条隐蔽的暗河，同时给两口水井补水。这个暗河就是“潜在混淆因子”：一个没有被观测到的变量，同时影响多个观测变量，制造虚假相关的假象。如果模型忽略了它，就会把“共同原因导致的同步波动”误判成“直接因果”。

DECI 采用潜变量建模的方式处理混淆因子：在结构方程中引入一个不可观测的潜变量 \(z\)，把所有隐藏因素的联合影响吸收进去：

$$\displaystyle p_\theta(x, z \mid G) = p_\theta(z) \prod_{i=1}^{d} p_\theta\left(x_i \mid x_{\mathrm{PA}_i^G}, z\right)$$

1. 潜变量先验：$$p_\theta(z)$$，刻画隐藏因素（如暗河水位、土层渗透率）的整体分布。

2. 条件独立分解：$$\prod_{i=1}^{d} p_\theta(x_i \mid x_{\mathrm{PA}_i^G}, z)$$，给定父节点和潜变量后，每个观测变量的生成过程被独立描述。

3. 共同影响：$$z$$ 出现在每个条件概率中，使得隐藏因素可以同时影响多个变量，模拟混淆效应。

DECI 处理混淆因子的完整策略还依赖于多环境数据：如果能从不同干预场景（比如关掉某个支路阀门）收集数据，模型就可以利用“因果机制在不同环境下不变”的原则，把真正的因果边与受混淆因子驱动的虚假相关区分开。需要提醒的是，如果只有单一环境的纯观测数据，任何方法（包括 DECI）都无法从理论上保证完全识别混淆结构——这是因果推断领域公认的基本限制，阿理再厉害，也不可能只凭一块压力表就完全还原所有地下暗河。

AI 应用场景

Python 演示

import numpy as npnp.random.seed(0) def dagness(W, steps=10):    # 用矩阵指数近似 h(W)=tr(exp(W*W))-d, 无环时为 0    d = W.shape[0]    M = W * W    expM = np.eye(d)    term = np.eye(d)    for k in range(1, steps + 1):        term = term @ M / k        expM += term    return np.trace(expM) - d def score_fn(W, X, lam=0.01):    # 线性加性噪声模型: 子节点由父节点线性组合重构    pred = X @ W.T    mse = np.mean((X - pred) ** 2)    return mse + lam * dagness(W) def numerical_grad(f, W, eps=1e-4):    grad = np.zeros_like(W)    for i in range(W.shape[0]):        for j in range(W.shape[1]):            Wp = W.copy(); Wp[i, j] += eps            Wm = W.copy(); Wm[i, j] -= eps            grad[i, j] = (f(Wp) - f(Wm)) / (2 * eps)    return grad # 生成数据: 真实结构为 X2 -> X1, X2 -> X3n, d = 5000, 3X = np.random.randn(n, d) * 0.5X[:, 0] = 0.8 * X[:, 1] + np.random.randn(n) * 0.1X[:, 2] = -0.6 * X[:, 1] + np.random.randn(n) * 0.1 W = np.zeros((d, d))lr = 0.02for it in range(300):    g = numerical_grad(lambda w: score_fn(w, X), W)    W -= lr * g    if it % 50 == 0:        print(it, "score=", round(score_fn(W, X), 5)) print("学习到的邻接矩阵(行=子节点, 列=父节点):")print(np.round(W, 2))print("阈值 0.1 之上的有向边:")for i in range(d):    for j in range(d):        if abs(W[i, j]) > 0.1:            print("X" + str(j + 1) + " -> X" + str(i + 1), round(W[i, j], 2))

1. W = np.zeros((d, d))从零矩阵开始，相当于阿理把所有阀门先关到 0 开度。
2. numeric_grad(lambda w: score_fn(w, X), W)用数值梯度近似反向传播，观察每个权重对综合评分的影响方向。
3. mse + lam * dagness(W)评分函数同时考虑“重构误差”和“无环程度”，两者争夺最后话语权。
4. term = term @ M / k用幂级数近似矩阵指数，避免依赖额外科学计算库。
5. if abs(W[i, j]) > 0.1连续权重超过阈值才认为边存在，过滤掉噪音级微弱连接。

常见误区

面试题