反事实评估：反事实合理性评估

可视化演示

展示反事实合理性三维度评估框架、数据流形距离度量与典型失败模式的可视化检测过程。

评估动机：为什么反事实需要“验收”

装修公司给住户递来三套“假如”方案——“假如把阳台封起来当书房”“假如把承重墙拆了让客厅更敞亮”“假如把厨房改到楼梯间下面”。前一个方案听起来不错，中间一个危险，最后一个纯粹是玩笑。装修公司说：这都只是假设场景，你们自己选吧。住户当然不能盲选，因为有些假设从一开始就是空中楼阁。AI 生成反事实解释时也面临同样的处境。

反事实推理回答的是“如果过去的某个条件不同，结果会不会不同”。比如银行对逾期客户解释：“如果您的月收入提高 20%，这笔贷款就不会被拒。”这个“如果”看似贴心，却可能完全不可行——收入由工作、学历等更底层的因素决定，不可能凭空提高。所以，反事实样本不能只看“有没有答案”，还要看“合不合理”。

反事实合理性评估就是给这些“假设场景”打分的一套系统方法。它从三个维度把关：数据流形距离（样本是否贴近真实数据分布）、因果一致性（改动是否遵循因果法则）、人类直觉一致性（解释是否让人信服）。三项加权合成，得到一个综合合理性得分：

$$\displaystyle S = w_d d + w_c c + w_h h$$

1. 综合得分 S：S 代表反事实样本的最终合理性得分，数值越大越靠谱。

$$S$$

2. 三个维度得分：d（数据流形）、c（因果一致性）、h（人类直觉一致性）分别由三个模块算出，都是 0 到 1 的实数。

$$d,\ c,\ h \in [0,1]$$

3. 权重乘积与求和：每个维度得分乘以其权重 w，再相加，得到一个唯一的综合分数。

$$S = w_d \cdot d + w_c \cdot c + w_h \cdot h$$

这就像物业给装修方案下结论：先看改造是否在小区建筑风格之内（流形），再看有没有破坏房屋结构（因果），最后问住户是否觉得舒适合理（直觉）。三重关卡都过了，方案才真正值得动工。

数据流形：反事实要“长得像”真实样本

物业工作人员拿到“把阳台改成书房”的方案后，第一件事是翻看整栋楼的户型图。如果大部分住户都封了阳台做阳台房，那这个改造就“合群”；如果整个小区从没人这么干，那这个方案虽然合法，也显得格格不入。数据流形距离做的正是这件事——判断反事实样本是否“合群”。

数据分析中，真实样本会聚拢在某个低维结构附近，这个结构叫数据流形。生成的反事实如果落在流形内部，说明它像是数据中真实存在的个体；如果跑到流形外面很远，那它只是数学上可行、现实中罕见的“怪胎”。原始样本是参考系：一个合理的反事实，不应该比原始样本更“离群”。

度量方法常用 k 近邻平均距离：找数据集中离反事实样本最近的 k 个真实样本，计算平均距离 m，距离越小意味着越贴近真实分布。把距离转化为 0 到 1 的得分：

$$\displaystyle d = \frac{1}{1 + m_k(x_{cf})}$$

1. 反事实样本 x_{cf}：被评估的假设样本，即“改造方案”对应的特征向量。

$$x_{cf} \in \mathbb{R}^n$$

2. k 近邻平均距离 m_k：在数据集中找 x_{cf} 的 k 个最近邻居，算平均欧氏距离，距离大意味着样本罕见。

$$m_k(x_{cf}) = \frac{1}{k}\sum_{i=1}^{k} \|x_{cf} - x_{(i)}\|$$

3. 距离压缩为得分：用 1/(1+m) 把距离从 [0,∞) 映射到 (0,1]，距离越小得分越接近 1。

$$d = \frac{1}{1 + m_k(x_{cf})}$$

就像阳台房装得合不合群，反事实离真实数据越近，越像一个“真实可能存在的人”，物业才敢给它盖第一个章。

因果一致性：不能碰“承重墙”

装修最忌讳“动了承重墙”——表面看墙一拆空间变大了，但整栋楼的安全都受威胁。反事实里也有这样的“承重墙”：原因变量。你不能为了让“逾期”变“不逾期”，就偷偷改动“学历”这种底层原因，更不能让结果反过来决定原因。

因果一致性基于结构因果模型（SCM），把变量分成原因和结果。一个合理的反事实应当遵循“尽量少改动、结果由原因驱动”的原则：只改变直接相关的可干预变量，而不去动不该动的前因。这就是“最小干预原则”——干预的不是整个因果结构，而是某个具体的可操作环节。

用因果约束集合 R 来描述这些红线，例如约束“学历不能因违约情况而变化”。统计反事实样本违反约束的次数 k，约束总数为 n，则因果一致性得分：

$$\displaystyle c = 1 - \frac{k}{n}$$

1. 违规次数 k：统计反事实样本违反因果约束的次数，比如改了前因变量、或结果驱动了原因。

$$k = \big|\{r \in R : \text{violate}(x_{cf}, r)\}\big|$$

2. 约束总数 n：因果约束集合 R 的规模，作为统一分母保证分数可比。

$$n = |R|$$

3. 违规比例转得分：1 减去违规比例，违规越少越接近 1，全部违规则为 0。

$$c = 1 - \frac{k}{n}$$

承重墙不能碰，下水管不能乱接。因果一致性给了反事实评估一把“结构安全尺”，凡是倒果为因、擅动前因的方案，在这一关就被当场拦下。

人类直觉：让解释讲得通、听得懂

有些改造方案技术上全合格——没碰承重墙、风格也融入小区——可住户一进门就觉得别扭：“客厅直通马桶间？虽然合规，但谁这么住？”反事实解释也一样：数据上合理、因果上正确，但如果用户听完一头雾水，解释就失去了意义。

人类直觉一致性衡量的是“可解释性”：一个反事实样本应当让人三秒内听懂，并且觉得“如果当初真这么做了，确实会有这个结果”。它通常通过用户调研、专家打分或可理解性规则来获取。领域专家看重医学或金融逻辑，普通用户更在乎“我做不做得到”，两类视角缺一不可。

设定 m 名评估者（含领域专家与普通用户），每人判断反事实是否自然合理，认可记 1，不认可记 0。取认可人数的比例：

$$\displaystyle h = \frac{1}{m} \sum_{i=1}^{m} a_i$$

1. 评估者集合：m 名评估者来自专家和用户两个群体，保证视角多样。

$$i = 1, 2, \dots, m$$

2. 认可标记 a_i：第 i 位评估者认为反事实合理记 1，不合理记 0。

$$a_i \in \{0, 1\}$$

3. 认可比例：把 m 个标记求和再除以人数，得到 0 到 1 的直觉一致性得分。

$$h = \frac{1}{m}\sum_{i=1}^{m} a_i$$

物业最后会请住户自己住进去感受一下。直觉一致性就是让人“住进去”试试看——如果所有人都觉得别扭，那这个“假如”再正确也谈不上合理。

评估体系：三维合成与阈值判定

三张验收单——流形盖章、因果盖章、直觉盖章——最终要汇总到物业办。三张单子不能简单相加，因为不同场景侧重点不同：历史街区改造更看重外观协调（流形），高层住宅更看重结构安全（因果），适老化改造更看重老人住得惯（直觉）。

评估体系要做两件事：一是用权重把三个维度合成一个总分，权重由业务场景决定并归一化为 1；二是设定阈值，决定这个反事实是否被采纳。高风险场景（如医疗、金融）会把因果权重调高，并把阈值设得很严，因为一条违规解释可能造成真实损失。

综合得分代入阈值判定函数，大于等于阈值就放行：

$$\displaystyle \text{Accept}(x_{cf}) = \begin{cases} 1, & S \ge \tau \\ 0, & S < \tau \end{cases}$$

1. 阈值 τ：由业务风险决定的可采纳底线，风险越高 τ 越接近 1。

$$\tau \in [0,1]$$

2. 分段判断：当综合得分低于 τ 时拒绝该反事实，达到或超过则采纳。

$$\text{Accept}(x_{cf}) = \mathbf{1}[S \ge \tau]$$

3. 权重归一化：三个权重非负且和为 1，保证综合得分仍落在 0 到 1 区间。

$$w_d + w_c + w_h = 1$$

三道章盖完，物业一锤定音。阈值就是那道“合格线”——线上放行，线下打回。没有这个体系，三个维度的分数就只是三个数字，形不成决策。

实践应用：数据可信层的“物业审批”

从单套房子的验收，上升到整个小区甚至城市的住建体系，就对应到数据可信层。数据可信层是 AI 系统的“质量监理总站”：所有反事实解释、自动生成的假设场景，都要在这里过质检，才能流入下游业务。

在数据可信层中，反事实合理性评估承担三重角色：一是过滤，把不可执行、不合逻辑的解释挡在业务之外；二是调试，评估得分低说明反事实生成器跑偏了，需要迭代修正；三是审计，为监管提供“为什么给出这条解释”的合规留痕。

当评估不达标时，反事实生成器需要沿着合理性评分的梯度方向迭代调整样本，让综合分数逐步逼近阈值：

$$\displaystyle x_{cf}' = x_{cf} + \eta \nabla_x S$$

1. 梯度方向：∇_x S 表示让综合得分上升最快的调整方向，告诉生成器“往哪个方向改更合理”。

$$\nabla_x S = \left(\frac{\partial S}{\partial x_1}, \dots, \frac{\partial S}{\partial x_n}\right)$$

2. 学习率 η：控制每次调整的步长，防止修正幅度过大导致样本又飘出流形。

$$\eta \in (0,1)$$

3. 迭代更新：原样本沿梯度方向移动一小步，生成修正版反事实，直到评分达到阈值。

$$x_{cf}' = x_{cf} + \eta \nabla_x S$$

物业审批不只拦问题方案，还反馈“怎么改才能过审”。数据可信层也如此——评估不是为了淘汰而淘汰，而是让 AI 在一次次“假如”推演中，学会生成更可信、更负责任的解释。

---

AI 应用场景

Python 演示

import numpy as np  class CounterfactualEvaluator:    """反事实合理性评估器: 数据流形 + 因果一致性 + 人类直觉三维打分"""     def __init__(self, data, causal_rules, weights=(0.4, 0.35, 0.25),                 threshold=0.6, k=5):        self.data = np.asarray(data, dtype=float)        # 每条规则: (前因索引, 结果索引)        self.causal_rules = causal_rules        self.weights = weights        self.threshold = threshold        self.k = k     def manifold_score(self, sample):        # 维度一: 样本到 k 近邻的平均距离, 越小越贴近真实分布        diffs = self.data - np.asarray(sample, dtype=float)        dists = np.sqrt(np.sum(diffs ** 2, axis=1))        dists.sort()        m = dists[1:self.k + 1].mean()        return 1.0 / (1.0 + m)     def causal_score(self, orig, counterfactual):        # 维度二: 改动前因或倒果为因的次数越少, 一致性越高        changed = np.asarray(orig) != np.asarray(counterfactual)        violations = 0        for antecedent, outcome in self.causal_rules:            if changed[outcome] and not changed[antecedent]:                violations += 1            if changed[antecedent] and not changed[outcome]:                violations += 1        n = max(len(self.causal_rules) * 2, 1)        return 1.0 - violations / n     def intuition_score(self, counterfactual, judge_rules):        # 维度三: 专家/用户规则判定, 取认可比例        if not judge_rules:            return 0.5        agree = sum(1 for rule in judge_rules if rule(counterfactual))        return agree / len(judge_rules)     def evaluate(self, orig, counterfactual, judge_rules):        m = self.manifold_score(counterfactual)        c = self.causal_score(orig, counterfactual)        h = self.intuition_score(counterfactual, judge_rules)        total = (self.weights[0] * m + self.weights[1] * c                 + self.weights[2] * h)        return m, c, h, total, total >= self.threshold  def main():    # 信贷数据: [年龄, 学历, 收入万元, 历史违约次数]    data = np.array([        [28, 1, 45, 0],        [35, 2, 80, 1],        [42, 3, 60, 0],        [31, 1, 38, 2],        [48, 2, 90, 0],        [26, 0, 25, 3],    ], dtype=float)     # 因果规则: 收入决定违约, 学历决定收入    rules = [(1, 2), (2, 3)]     evaluator = CounterfactualEvaluator(data, rules)    original = np.array([35, 2, 80, 1])    cf = np.array([35, 2, 95, 0])  # 候选反事实: 收入更高     # 人类直觉规则: 收入增幅不超20%, 学历保持不变    judge_rules = [        lambda x: x[2] <= original[2] * 1.2,        lambda x: x[1] == original[1],    ]     m, c, h, total, ok = evaluator.evaluate(original, cf, judge_rules)    print("流形得分: %.2f" % m)    print("因果得分: %.2f" % c)    print("直觉得分: %.2f" % h)    print("综合得分: %.2f" % total)    print("是否通过: %s" % ("是" if ok else "否"))  if __name__ == "__main__":    main()

1. dists[1:self.k + 1].mean()距离排序后跳过自身（距离 0），取 k 个最近邻居的平均距离。
2. changed = np.asarray(orig) != np.asarray(counterfactual)用逐维比较找出被改动的变量。
3. if changed[outcome] and not changed[antecedent]结果变了而原因没变，属于“倒果为因”，记一次违规。
4. total = ...weights[0] * m + weights[1] * c + weights[2] * h三维加权合成综合合理性得分。
5. lambda x: x[2] <= original[2] * 1.2模拟人类直觉规则：收入增幅不超过 20% 才被认为是可执行的建议。

常见误区

面试题