反事实生成：反事实合理性约束

可视化演示

展示反事实样本的三层合理性约束框架（合法性/流形/因果不变性）、数据流形与反事实位置关系、以及稀疏性与有效性的多目标权衡，交互切换三种模式探索。

合理性本质

深夜复盘牌局，你脑海里闪过“如果我当时跟注会怎样”。但这个“如果”是否成立，取决于它是否符合牌桌的底层逻辑：不能凭空冒出一张红心 A，不能把谨慎的老李变成疯狂赌徒，你跟注就必须推出筹码。这些底线条件，在反事实生成里统称为合理性约束——它们决定了一个平行世界推演能否被严肃对待。

把镜头从牌桌转向机器学习。给定一个分类器和某个被判定为“拒绝”的原始样本，反事实生成要寻找一个修改幅度尽可能小的样本，让模型把它判成“通过”。通俗地说，就是在高维特征空间里回答“如果用户把月收入提高三千元，贷款还会被拒吗”。然而，“最小修改”只是数学目标，真正让答案有说服力的，是修改后的样本必须经得起现实检验。

因此，合理性约束的完整框架体现为一个带约束的优化问题：在分类器必须翻转预测的前提下，同时要求候选样本满足合法性、兼容性与因果一致性。研究者通常将这三类规则合并写成一个约束谓词 $\mathcal{R}$。

回到牌局，这套目标函数就是你“复盘推演”的数学版本：既要改动尽量小（少编故事），又要让新场景在牌桌上说得通（守底线）。当约束无法满足时，工程师宁可报“找不到反事实”，也不能交付一个在现实中注定穿帮的假设场景——这正是“合理”二字的分量。

特征合法性

牌只有 52 张，红心 A 全世界只有一张。如果你的复盘场景里出现了“第二张红心 A”或“第 53 张牌”，同桌牌友当场掀桌——因为这不合法。特征合法性就是这个意思：修改后的样本，每个特征取值都必须落在现实允许的范围内。

放到信贷场景，特征如“年龄”“月收入”“负债率”。年龄被改成负值、负债率写成 200%、婚姻状况同时取值为“已婚”和“未婚”——这些荒谬取值即使能让模型翻转到“通过”，也毫无可信度。特征合法性首先用上下界约束把这类错误挡在门外。

上下界通常直接从训练数据或业务规则提取。若数据相对干净，可用每个特征的最小值与最大值定义安全区间；若特征语义明确，业务规则可进一步收紧区间，例如“年龄必须至少为 18”。特征合法性是合理性约束中最基础、也最不可省略的一道闸门。

牌局中你只能从手中的牌里打出选择，反事实也一样：只能在特征允许的牌型中调整。离开这套边界，生成结果只是数学上合法、现实中可笑的废案。

分布兼容性

你和老李打了十年牌，他的风格稳定：谨慎、极少虚张声势。若你的复盘假设“老李突然疯狂全押”，没人会信——因为这与他一贯的行为分布严重不符。分布兼容性约束，正是确保反事实样本仍落在训练数据所描述的现实人群中。

技术上看，只用取值范围还不够：年龄 35 和 36 都合法，但若训练集中从未同时出现过“35 岁 + 月入 5000 + 三年逾期”，这类特征组合就像人群中不存在的“性格突变的老李”。分布兼容性要求反事实样本与训练数据的联合分布不能偏离太远。

常用工具是马氏距离：它用协方差结构把特征关联考虑进来，比欧氏距离更能反映“这个人属于人群中的常见类型还是稀有类型”。当马氏距离小于阈值时，就认为候选样本仍在“正常人群”的支持区域之内；也可以用密度估计模型直接输出支持度分数。

老李的风格分布是你的先验知识，训练分布是模型心中的世界模型。让反事实落在分布之内，等于告诉决策者：“这个如果场景，在现实人群中确实有人满足。”这是可信度的第二个基石。

因果不变性

牌局有一条硬规则：打出的牌会从手中消失，跟注必须推出筹码。你无法只改“结果”而不动“原因”——这就是因果机制。反事实修改同样不能违背机制：贷款额度上调时，月还款额、负债率通常也联动变化，而不是各特征孤立地跳动。

结构因果模型（SCM）把特征间的生成机制显式写成结构方程：每个内生特征由它的直接原因和背景噪声共同决定。生成反事实时，并不是把特征向量整体插值到目标区域，而是对某些节点做干预，再让原因沿着结构方程把变化传播下去。

例如在信用场景中，若把“月收入”从 8000 改为 15000，SCM 中由收入驱动的“月还款额”“授信额度”也会被联动改写。也就是说，反事实的每个特征不是自由变量，而是由因果骨架自动重新生成的。这样一来，假设世界的内在一致性就有了保证。

打牌时“跟注推出筹码”的规则从未改变，因果不变性就是要求修改后的世界沿用同一套物理法则。机制一旦被偷偷替换，反事实就不再是我们这局牌的平行宇宙，而是另一场赛局——这样的解释自然没有指导价值。

矛盾检测

最荒诞的复盘是你宣称“我跟了，但手牌和筹码都没少”。这种同时成立的反事实陈述撕裂了世界的逻辑一致性。用 AI 的术语说，就是特征组合在其联合分布中的概率为零，属于逻辑自相矛盾。

矛盾检测作为合理性约束的收尾守卫，专门检查特征组合是否有真实存在的可能。即使每个特征单独合法、整体也接近分布，仍可能因为离散特征的逻辑冲突而被判死刑：已婚却标注未婚、在职却领取失业金——这类矛盾必须在发布反事实前被识别并拒绝。

形式上，可以用联合概率是否大于零来判定：若某种组合在数据世界中概率为零，或训练后验概率低到不可信，就拒绝该反事实。矛盾检测也可以通过业务规则校验器实现，例如性别与怀孕状态、职业类型与收入区间之间的规则约束。

牌局复盘可以想象各种剧情，但每一版剧情都要经得起“有没有可能真实发生”这一问。矛盾检测就是最后那声质问：你所谓的“如果”，有没有自打嘴巴？

方法演进

最初的牌局复盘靠拍脑袋，而专业团队用数据工具系统推演。反事实生成方法也经历了相似的进化：从只追求距离最小，到把合理性约束内化进求解过程。

早期方法以距离导向搜索为主，沿着决策边界的法线方向寻找最近的越界点，但经常产出不可信的样本。随后，受限优化方法登场：把合法性、分布兼容性作为显式约束加入优化问题，用交替投影等手法求解。此时“合理性”第一次成为优化问题的一部分，而不只是事后检查。

近年的生成对抗与深度方法则更进一步：判别器保证样本像训练分布，结构方程作为可微层强制因果联动，正则项把矛盾检测软化进学习目标。方法在演进，但对三条底线的坚持始终没有改变。

从拍脑袋到专业复盘工具，变的只是推演效率与精度，不变的是对“合理”的尊重。理解这段演进，你会明白：一个反事实可不可用，最终取决于它能不能在这个世界的规则里站得住脚。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.linear_model import LogisticRegressionfrom sklearn.preprocessing import StandardScaler  def main():    # 1. 合成信贷数据：月收入(万元)、信用分、负债率    rng = np.random.RandomState(42)    n = 400    income = rng.normal(1.2, 0.4, n)    credit = rng.normal(650, 80, n)    debt = 0.35 + 0.25 * (650 - credit) / 80 + rng.normal(0, 0.05, n)    X = np.stack([income, credit, debt], axis=1)    y = (0.9 * income + 1.2 * (credit - 650) / 80         - 1.8 * (debt - 0.35) + rng.normal(0, 0.4, n) > 0).astype(int)     scaler = StandardScaler()    X_scaled = scaler.fit_transform(X)    clf = LogisticRegression(C=1.0)    clf.fit(X_scaled, y)     # 2. 取一个被拒绝的样本作为原始样本    x_orig = X_scaled[y == 0][0]     # 3. 合理性约束    lo = X_scaled.min(axis=0)    hi = X_scaled.max(axis=0)    mean = X_scaled.mean(axis=0)    cov = np.cov(X_scaled.T)    cov_inv = np.linalg.inv(cov)     def causal_adjust(x_s):        # 因果联动: 信用分升高时, 负债率机械性下降        x_real = scaler.inverse_transform(x_s.reshape(1, -1))[0]        x_real[2] = 0.35 + 0.25 * (650 - x_real[1]) / 80        return scaler.transform(x_real.reshape(1, -1))[0]     def is_valid(x_cf):        # 特征合法性        if not np.all((x_cf >= lo) & (x_cf <= hi)):            return False        # 分布兼容性: 马氏距离不超过阈值        d = x_cf - mean        if np.sqrt(d.dot(cov_inv).dot(d)) > 2.8:            return False        return True     # 4. 沿模型梯度方向搜索反事实    lr = 0.06    max_iter = 200    x_cf = x_orig.copy()    found = False    for _ in range(max_iter):        x_cf = x_cf + lr * clf.coef_[0]        x_cf = causal_adjust(x_cf)        if clf.predict(x_cf.reshape(1, -1))[0] == 1 and is_valid(x_cf):            found = True            break     if found:        print("原始预测:", clf.predict(x_orig.reshape(1, -1))[0])        print("反事实预测:", clf.predict(x_cf.reshape(1, -1))[0])        print("原始特征(收入/信用/负债率):",              scaler.inverse_transform(x_orig.reshape(1, -1))[0])        print("反事实特征:",              scaler.inverse_transform(x_cf.reshape(1, -1))[0])    else:        print("未找到满足合理性约束的反事实")  if __name__ == "__main__":    main()

1. X = np.stack([income, credit, debt], axis=1)把三个原始特征拼成特征矩阵，让模型在真实业务维度上学习。
2. scaler.fit_transform(X)先标准化再训练，避免收入量纲远大于负债率的数值差异干扰搜索方向。
3. clf = LogisticRegression(C=1.0)用逻辑回归作为可解释分类器，其系数方向天然适合作为反事实搜索的梯度指引。
4. lo = X_scaled.min(axis=0)从训练数据提取每个特征的下界，这是特征合法性约束的基础。
5. cov_inv = np.linalg.inv(cov)计算协方差逆矩阵，用于构造马氏距离的分布兼容性检查。
6. causal_adjust(x_s)根据信用分重新计算负债率，实现“改因必动果”的因果机制联动。
7. is_valid(x_cf)先查特征取值范围，再算马氏距离，两道关卡都通过才算合理候选。
8. x_cf = x_cf + lr * clf.coef_[0]沿模型权重方向稳步推进，逐步逼近决策边界。
9. clf.predict(x_cf.reshape(1, -1))[0] == 1只有当预测翻转成“通过”时，才认定搜索成功。

常见误区

面试题