基于分数方法：数据缺失处理

可视化演示

展示因果发现中数据缺失处理：MCAR/MAR/MNAR三种缺失机制矩阵对比、EM算法E步M步迭代收敛、多重插补Rubin规则合并，交互切换核心维度。

缺失数据类型

老范把残缺的证词摊在桌上，按丢失原因分成三堆：第一堆是被窗缝吹进的风雨打湿的，哪页湿完全碰运气；第二堆是某个证人的证词总是丢，而这位证人恰好是案发现场附近咖啡店的常客；第三堆则奇怪——凡是提到「那笔钱去向」的证词，全都不见了。侦探的经验告诉他，丢法不同，后续的推理策略就完全不同。

统计上，这三堆对应三种缺失机制：MCAR（完全随机缺失）、MAR（条件随机缺失） 和 MNAR（非随机缺失）。形式化地说，我们引入一个缺失指示矩阵 $M$，$M_{ij}=1$ 表示第 $i$ 条样本的第 $j$ 个变量缺失。$D_{\text{obs}}$ 是观测到的数据，$D_{\text{miss}}$ 是缺失的数据，$\phi$ 是控制缺失过程的参数。三者区别可以写成一个条件概率关系：

老范把这些标签贴到案卷上，心里清楚：如果缺失像风雨打湿一样完全随机，那大可以省很多力气；如果缺失和已知线索有关，就要用已知信息补全；如果缺失本身就是秘密的一部分，那任何补全都必须格外小心。

评分函数基础

老范要给每份「人物关系网假设」打分。打分表上有两栏：一栏是「证据覆盖率」——这份关系网能解释多少份看得清的证词；另一栏是「复杂度扣分」——关系网里是不是塞了太多不必要的箭头。合理的假设应该像奥卡姆剃刀：用最简洁的网络解释最多的证据。

这个思路落到因果发现里就是基于分数方法：对每个候选因果图 $G$，用观测数据 $D$ 计算一个分数，然后选分数最高的图。最常用的分数之一是 BIC（贝叶斯信息准则）。它的形式很优雅：

除了 BIC，还有贝叶斯评分如 BDeu，但 BIC 因为计算简单而成为工程主流。BIC 还有一个关键性质：它可以在每个变量上分解——整张图的分数等于各变量「局部分数」之和。老范的打分表因此可以拆成一张张分表，哪个环节乱了就重算哪张，不必推翻整个推理。

缺失影响分析

老范发现，一旦证词残缺，他的推理就容易出岔子。最典型的一次：关键证人的证词全被撕了，他只能从留下的旁证推断，结果把「受害者在场」误判成「嫌疑人在场」，方向完全颠倒了。数据缺失对因果学习的影响，正是这种「看不见的证据在偷偷带偏结论」。

首先，参数估计会出现偏差。只用完整样本计算均值、回归系数时，如果缺失不是完全随机，剩下的样本就不再代表总体，估计量自然偏移。其次，结构学习会误判：BIC 分数依赖似然，而缺失让似然函数变得复杂且可能多峰，贪心搜索更容易停在错误的图上；尤其当缺失与某变量取值相关时，该变量的因果边会被系统性低估或高估。最后，搜索空间被膨胀——为了正确计算一个图的分数，原则上要考虑所有缺失模式下的联合分布，等价于侦探要把每一种「证词丢失组合」都纳入推演。

这几个效应叠加，会让老范得出看似「分数不错」但因果方向错误的关系网。因此「分数高」和「关系网对」之间，隔着缺失机制这一道坎，盲目打分前必须先想清楚缺失是怎么发生的。

插补与EM策略

面对缺页，老范有三种补救手段：第一种是「只读完整的页」——把有缺口的证词直接扔到一边；第二种是「凭经验补写」——按已有证词的均值或最可能内容，把空白处填上；第三种是「反复交叉回忆」——让不同证人的记忆互相印证，迭代式地还原被涂掉的部分。

统计上，第一种叫完整样本法（listwise deletion）：删掉任何含缺失的行。简单，但样本量骤减，且缺失非随机时产生严重偏差。第二种叫插补，均值插补、回归插补属单值插补；多重插补则生成多份不同的补全数据，综合多次分析的不确定性。第三种是 EM（期望最大化）算法，它不直接填数，而是在「猜测缺失值」和「更新参数」之间来回迭代。EM 的核心是最大化一个期望对数似然：

EM 在处理 MAR 数据时表现稳健，因为它不武断地填一个固定值，而是用「概率期望」去量化不确定性。老范把三种手段都放进工具箱：时间紧就用完整样本，缺得少就插补，想严谨就上 EM。

结构EM融合

老范慢慢意识到，等证据收集齐了再画关系网已经来不及——凶手可能继续行动。于是他改成边调查边更新：先画一版粗略关系网，根据残缺证词猜一下缺失内容，再基于补全后的猜测调整关系网，再重新猜测……直到关系网和补全内容都不再变化。

这正是结构 EM（Structural EM） 的核心思想：普通 EM 只更新参数（关系网固定），结构 EM 则把「结构搜索」和「缺失补全」绑在一起。每轮迭代中，贪心搜索会尝试增边、删边、转边（add / delete / revoke），对每个候选图用当前参数下的期望充分统计量算出分数：

贪心搜索每走一步，只影响少数变量的局部分数，因此结构 EM 可以高效地反复评分、反复选边。收敛控制方面，通常会设置「连续若干轮分数提升小于阈值」就停止，避免白白消耗算力。这正是老范的「边查边改」策略：每轮调查都瞄准最有价值的线索，直到关系网稳定成型。

性能优化工程

老范的档案室里有二十个实习生帮忙整理证词。他发现，只要分工明确，案子就能快很多：有人专门比对咖啡店证人的证词，有人专门追踪那笔钱的流向，互不干扰，最后汇总。工程上的性能优化，思路完全一致。

基于分数方法的计算瓶颈在于：结构搜索要评估大量候选图，每张图都要算 BIC。好在 BIC 可分解，于是工程上有三把利器：

第一，局部分数缓存。只重新计算发生改变的变量局部分数，其余直接查缓存。老范只重读新增的那份证词，不必把整本案卷从头翻一遍。第二，剪枝与并行。搜索过程中，明显低分的候选父节点集合可以直接剪掉；不同变量的局部分数互相独立，可以扔到多个 CPU 核上并行算。第三，收敛诊断。设定分数提升阈值，连续几轮提升不到阈值就提前终止；也可以用 bootstrap 重复结构学习，看结构是否稳定。

这些优化让原本需要数天的因果发现压缩到几小时。老范的经验是：真正耗时的往往不是「打分」，而是「反复打同一张图的分数」——缓存与并行，本质上是把重复劳动交给机器，让侦探把精力留给判断。

案例与陷阱

老范合上档案，给实习生讲了两个真实案例。第一个是医学随访研究：医生想弄清「服药依从性 → 血压变化 → 心血管事件」的因果链，但随访中不少病人中途退出，留下大量缺失。好在退出与否通常和已记录的基线指标相关，属于 MAR，团队用多重插补 + BIC 结构搜索，稳健还原了因果路径。第二个是推荐系统的反事实评估：用户没点击某个商品，不代表「不喜欢」，这种缺失与未观察到的偏好本身有关，属于 MNAR。若直接把未交互当负样本，学出的因果图会严重偏差，需要显式对缺失机制建模。

这两个案例也照出三个常见陷阱。陷阱一：把 MNAR 当 MAR。 就像把凶手故意涂掉的供词当成被风吹湿的，结果自然南辕北辙。陷阱二：插补引入伪相关。 均值插补会压缩方差，让本不相关的变量显得相关，甚至画出虚假的因果箭头。陷阱三：动不动就用完整样本。 删除含缺失的行虽然省事，但在缺失比例高时样本量骤减，估计方差巨大，结构搜索也失去稳定性。

老范把这三条贴在案卷封面上：先判缺失机制，再选处理策略，最后用分数和领域知识双重校验。数据缺失不可怕，怕的是用想当然的方式去补。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""数据缺失处理下的基于分数方法（BIC）演示。生成 X->Y->Z 的高斯数据,制造 30% 的 MCAR 缺失, 比较完整样本法与均值插补对 BIC 评分的影响。"""import numpy as np  def bic_gaussian(X, parents):    """计算高斯 BIC 分数, parents[j] 是变量 j 的父节点列表。"""    n, p = X.shape    ll, npar = 0.0, 0    for j in range(p):        pa = parents[j]        if pa:            A = np.column_stack([X[:, k] for k in pa] + [np.ones(n)])            beta = np.linalg.lstsq(A, X[:, j], rcond=None)[0]            resid = X[:, j] - A @ beta            npar += len(pa) + 1        else:            mu = X[:, j].mean()            resid = X[:, j] - mu            npar += 1        rss = float(resid @ resid) + 1e-12        ll += -0.5 * n * (np.log(2 * np.pi) + 1.0 + np.log(rss / n))    return ll - 0.5 * npar * np.log(n)  def mcar_mask(X, rate, seed=0):    rng = np.random.default_rng(seed)    mask = rng.random(X.shape) < rate    Xm = X.copy()    Xm[mask] = np.nan    return Xm  def complete_case(Xm):    return Xm[~np.isnan(Xm).any(axis=1)]  def mean_impute(Xm):    Xf = Xm.copy()    for j in range(Xf.shape[1]):        col = Xf[:, j]        col[np.isnan(col)] = np.nanmean(col)    return Xf  np.random.seed(42)n = 400x = np.random.normal(size=n)y = 1.6 * x + np.random.normal(size=n)z = -0.9 * y + np.random.normal(size=n)X = np.column_stack([x, y, z])Xm = mcar_mask(X, 0.3)truth = [[], [0], [1]]       # X -> Y -> Zwrong = [[], [], [0, 1]]     # 错误的 Y<-X->Z 三角 Xcc = complete_case(Xm)Xmi = mean_impute(Xm)print("完整样本法  样本量 =", len(Xcc))print("  正确图 BIC =", round(bic_gaussian(Xcc, truth), 2))print("  错误图 BIC =", round(bic_gaussian(Xcc, wrong), 2))print("均值插补    样本量 =", len(Xmi))print("  正确图 BIC =", round(bic_gaussian(Xmi, truth), 2))print("  错误图 BIC =", round(bic_gaussian(Xmi, wrong), 2))

1. def bic_gaussian(X, parents):定义高斯 BIC 计算函数，parents 用列表刻画候选因果图的父节点关系。
2. beta = np.linalg.lstsq(A, X[:, j], rcond=None)[0]对变量 $X_j$ 关于其父节点做线性回归，得到条件分布参数。
3. ll += -0.5 * n * (np.log(2 * np.pi) + 1.0 + np.log(rss / n))累加每个变量的高斯对数似然；rss 越小似然越高。
4. return ll - 0.5 * npar * np.log(n)BIC = 拟合度 − 参数惩罚，体现奥卡姆剃刀。
5. mask = rng.random(X.shape) < rate随机生成缺失位置，模拟 MCAR 缺失机制。
6. def complete_case(Xm): return Xm[~np.isnan(Xm).any(axis=1)]完整样本法：删掉任何含缺失的行。
7. col[np.isnan(col)] = np.nanmean(col)均值插补：用该列非缺失均值填补空洞。
8. truth = [[], [0], [1]]真实结构：Y 的父节点是 X，Z 的父节点是 Y。
9. wrong = [[], [], [0, 1]]错误候选：假设 Z 同时被 X 和 Y 直接影响。
10. print("正确图 BIC =", round(bic_gaussian(Xmi, truth), 2))输出插补后两图分数，观察排序是否恢复。

常见误区

面试题