反事实评估：反事实多样性

可视化演示

三模式展示反事实多样性：特征空间距离度量、因果路径独立性、DiCE联合优化多样性损失项。

反事实缘起

电视剧《人生岔路》结局播出后，观众最想知道的不是结局本身，而是每一个“如果”。导演若只剪辑一条“如果主角没跳槽”的平行结局，观众仍会追问：那如果他没结婚呢？如果行业没下行呢？一个问题，往往有多个不同的答案，每个答案都照亮故事的不同侧面。只答一条，无异于给迷宫只开一扇窗。

在机器学习中，这种“假如当初”的样本叫做反事实（Counterfactual）。当信贷模型拒绝用户时，我们问：样本 $\mathbf{x}'$ 长什么样，才能让模型给出“通过”？数学上看，这是求解一个最优化问题——在模型翻转分类的约束下，找一个与原始样本 $\mathbf{x}$ 距离最小的改动。它对应着导演的第一条平行剧情线：最小改动的“最省事结局”。

最小改动听起来完美，但它只是无数可行解中的一个。现实中用户可能无法立刻提高收入 2 万元，却能先清偿一笔小额负债；可能无法换工作，却能提前结清信用卡分期。不同人的资源约束不同，“最优”答案其实各不相同。因此，高质量的解释系统应当同时呈现这些答案，而不是假设所有人都走同一条“最省事”的路。

$$y^*$$d(\mathbf{x}, \mathbf{x}')

回到导演的比喻：优秀的分镜师会为关键转折预留多套备选剧本，因为不同观众的生活经验不同，能“触动”他们的剧情线也不同。反事实多样性，正是要求这组备选剧本在内容上拉开差距，而不是同一个内核换了件衣服重新播放。

多样定义

假如导演向编剧组提出要求：“给我 5 条平行结局。”编剧交上来 5 条，全部是“主角没有遇到初恋”的微调版本——只是相遇时间、地点略有差异。这能叫多样化吗？不能。观众一眼就能看出：这些剧情线改动的是同一个变量，本质上是同一条线。真正多样的平行结局，应该分别改动事业、家庭、健康、时代背景等不同维度。

在反事实语境下，“不同维度”有两个层次。第一层是特征空间互不冗余：两条反事实改动特征集合的重叠越小，它们越多样。比如一条改“月收入”，另一条改“负债率”，就比两条都改“月收入”更互补。第二层是因果路径互不冗余：即使两条反事实在特征上有交集，只要它们沿着不同的因果链条驱动结局变化，也不算冗余。比如“降薪→离职”与“被裁员→离职”，特征相似但机制不同。

度量多样性最直接的方法是计算集合内所有样本的成对距离，见下方公式：它把所有反事实两两配对，求平均归一化距离。比值越接近 1，说明组内样本越“各有各的故事”；越接近 0，说明大家是“换汤不换药”的复读机。

$$\mathcal{C} = \{\mathbf{x}_1, \mathbf{x}_2, \dots, \mathbf{x}_k\}$$d(\mathbf{x}_i, \mathbf{x}_j)

这套“互不冗余”的思想还有一个更高级的实现：行列式点过程（DPP）。它通过计算集合的核矩阵行列式 $\det(\mathbf{K}_\mathcal{C})$ 来评估子集多样性——如果集合中两条反事实高度相似，核矩阵的行列式会趋向 0；行列式越大，说明这套“演员阵容”越没有撞型。编剧选角时怕撞型，反事实选择时同理。

评估指标

剧评人评价一组平行结局，不会只数“有几条”就下结论。他们会看三件事：第一，这几条剧情线是否互不相同（多样性）；第二，每条线的情节推进是否合情合理、不违背人物设定（可达性）；第三，观众想要复现这条线所付出的“改剧本成本”高不高（可操作性）。DIVERSIFY 论文正是把这三条直觉变成了可计算的评估指标。

• 多样性（Diversity）：由上一节的成对距离或 DPP 行列式度量，回答“这组反事实是不是在重复同一个套路”。

• 可达性（Proximity）：每条反事实与原始样本的距离。距离太远，方案就像让穷人“先挣一个亿”一样不可执行。

• 可操作性（Sparsity）：一组反事实需要改动特征的数量。改 1 个特征比改 5 个特征更容易被用户接受。

其中 加速评估（Accelerated Evaluation）是一个重要技巧：直接计算两两距离需要 $O(k^2)$ 次调用模型，非常昂贵。DIVERSIFY 提出了 ADP（平均成对距离）等代理指标，只依赖特征空间的几何关系，不必重新评估模型就能快速打分，像剧评人只看剧本大纲就能判断有没有撞梗，无需把每集拍完再评价。

$$|\mathcal{C}|^2$$d(\mathbf{x}_i, \mathbf{x}_j)

生成方法

\displaystyle \mathcal{L}(\mathcal{C}) = \frac{1}{k}\sum_{i=1}^{k} \left[ \mathcal{L}_{\text{cls}}\big(f(\mathbf{x}_i), y^*\big) + \lambda_1\, d(\mathbf{x}, \mathbf{x}_i)\right] - \lambda_2\, \mathrm{Div}(\mathcal{C})

$$\mathcal{L}_{\text{cls}}\big(f(\mathbf{x}_i), y^*\big)$$- \lambda_2\, \mathrm{Div}(\mathcal{C})

编剧团的经验同样适用于这里：头脑风暴（采样）成本低但质量参差；主编拍板（贪心选取）质量可控但依赖好的候选池；全流程协同创作（集合优化）效果最好，但需要精心调节两三个“创作纪律”超参数。

性能平衡

如果编剧为了追求“每条剧情线都不同”，把主角写成外星人、把年代改到 3024 年，观众一定会抗议：“这不是原来那部剧！”多样性不是无限度的，它必须服从一个前提——方案要在现实世界可落地。

这就是稀疏性与多样性的矛盾：一条反事实要多样，往往需要改动更多特征、偏离原始样本更远；但代价越大，用户越难执行。优化理论给出了一种稳妥的折中方式——把“多样性至少达到多少”变成约束条件，而不是无限增大奖励。如下方公式：我们要求整组反事实的总改动特征数最小，同时强制每条反事实都在目标类中、集合的多样性不低于阈值 $\tau$。

公式中的 $\|\cdot\|_0$ 是 $L_0$ 范数，数的是向量里非零元素个数，也就是“一共改动了几个特征”。$\tau$ 是多样性下限，由业务方决定：信贷场景里 $\tau$ 可以设小一点，因为客户能执行的动作本来就不多；研究场景里 $\tau$ 可以设大，鼓励探索更广的因果空间。

$$\|\mathbf{x}_i - \mathbf{x}\|_0$$f(\mathbf{x}_i) = y^*

$L_0$ 范数不可导，实际工程中常用 $L_1$ 范数近似，或用贪心搜索逐特征尝试。这就像导演给编剧组立规矩：可以脑洞大开，但每一条新剧情线必须能在现实拍摄条件下完成，且彼此差异至少达到合格线——这既保住了多样性的价值，也没让解释沦为天方夜谭。

落地场景

不同播出平台会放送不同的结局剪辑：电视台版本强调家庭线的改动，流媒体版本突出事业线的转折，海外版则改变时代背景。同一组原始剧情，针对观众群体的可操作性分发平行方案。这正是反事实多样性在真实业务中的姿态——按用户的能力和处境，分发一组可执行的方案。

信贷风控是最典型的场景。银行模型拒绝贷款后，智能助手一次性给出三条补全路径：“提高月收入至 2 万元”、“将信用卡负债率降至 30%”、“将贷款申请延后 6 个月（待征信记录更新）”。三条路径改动特征互不重叠、因果机制不同，用户在三条中总能找到一条自己够得着的。

医疗建议场景中，模型评估出患者的高血糖风险后，给出多维度反事实：“每周增加 150 分钟快走”、“主食替换为低 GI 食物”、“调整夜间用药时间”。它们分别作用于运动、饮食、用药三条因果路径，患者可以根据生活节奏选择执行。智能客服申诉场景同样受益：用户被拒后，系统给出多条“可申诉条件”，每条对应不同的规则维度。

评估一组反事实方案最终好不好用，要综合多样性、每条方案的可达性以及整体稀疏性，加权打一个总分。下方公式中的权重 $w_1, w_2, w_3$ 由业务方根据场景调节——信贷场景更看重 $w_3$（可操作性），研究探索场景更看重 $w_1$（多样性）。

$$w_1, w_2, w_3$$\mathrm{spar}(\mathcal{C})

至此，导演的拍摄计划完整了：先理解单一反事实的局限（缘起），再定义什么是真正的“不同”（多样定义），用剧评人的眼光打分（评估指标），组织编剧团队产出多条线（生成方法），约束剧情不跑偏（性能平衡），最后按平台分发（落地场景）。一台可落地的多结局“放映机”就这样搭好了。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.linear_model import LogisticRegressionfrom sklearn.datasets import make_classification  class DiverseCF:    def __init__(self, model):        self.model = model     def predict(self, x):        prob = self.model.predict_proba(x.reshape(1, -1))[0, 1]        return 1 if prob >= 0.5 else 0     def candidate(self, x_orig, target, rng, sigma=0.8):        for _ in range(300):            x_cf = x_orig + rng.normal(0, sigma, size=x_orig.shape)            if self.predict(x_cf) == target:                return x_cf        return None     def diverse_set(self, x_orig, target, k=5, seed=0):        rng = np.random.default_rng(seed)        cands = []        for _ in range(200):            cf = self.candidate(x_orig, target, rng)            if cf is not None:                cands.append(cf)        if not cands:            return []        picked = [cands[0]]        for _ in range(k - 1):            best, best_score = None, -1            for cand in cands:                if any(np.allclose(cand, p) for p in picked):                    continue                score = min(np.linalg.norm(cand - p) for p in picked)                if score > best_score:                    best, best_score = cand, score            if best is None:                break            picked.append(best)        return picked  def adp(cf_set):    total, n = 0.0, len(cf_set)    for i in range(n):        for j in range(n):            total += np.linalg.norm(cf_set[i] - cf_set[j])    return total / (n * n)  def main():    X, y = make_classification(n_samples=400, n_features=4,                               n_informative=3, n_redundant=0,                               n_clusters_per_class=1, random_state=7)    model = LogisticRegression(max_iter=500)    model.fit(X, y)    gen = DiverseCF(model)    x_orig = X[0]    target = 1 - model.predict(x_orig.reshape(1, -1))[0]    for seed in range(3):        cf_set = gen.diverse_set(x_orig, target=target, k=4, seed=seed)        print('seed', seed, 'ADP=%.4f' % adp(cf_set),              'count', len(cf_set))  if __name__ == '__main__':    main()

1. x_cf = x_orig + rng.normal(0, sigma, size=x_orig.shape)在原始样本附近做随机扰动，产生一条候选“平行剧情线”。
2. if self.predict(x_cf) == target剧本审校：只有分类结果翻转到目标类的候选才算合格反事实。
3. score = min(np.linalg.norm(cand - p) for p in picked)计算候选与已选集合的最近距离，距离越大说明这条线与已有剧情越不雷同。
4. if score > best_score:贪心最远点选取：每轮挑差异最大的候选加入集合，保证集合整体多样性。
5. total += np.linalg.norm(cf_set[i] - cf_set[j])实现 ADP 指标：统计集合内所有有序对的平均距离，值越大越多样。
6. for _ in range(300):单条候选最多尝试 300 次随机扰动，防止死循环；实际项目中可换成梯度优化加速。

常见误区

面试题