解释评估：代理模型忠实度

可视化演示

三模式展示代理模型忠实度评估：预测一致率散点对比、全局vs局部代理忠实度差异、归因相关系数度量特征重要性排序一致性。

章节一 忠实度基础：一张模仿的成绩单

阿福最大的困惑是：师父不教，我怎么知道自己学得像？餐馆的老主顾们给他支了一招——让师父和徒弟各做一道菜，请老主顾蒙眼盲测，看两盘菜的口味差多少。这个“盲测差值”，就是忠实度的雏形。

在机器学习里，黑箱模型指那些内部结构复杂、难以直接解释的模型，比如深度神经网络、随机森林、梯度提升树。它们预测很准，但内部几千个参数像师父的秘方一样不透明。代理模型则是另一类结构简单、天生可解释的模型——线性回归、逻辑回归、单棵决策树——它们不去模仿真实世界，而是模仿黑箱模型的输出。

忠实度（fidelity）就是衡量这种“模仿精度”的指标：代理模型对黑箱行为的逼近程度。这里有一个关键差别：代理模型的训练目标不是真实标签，而是黑箱的输出。也就是说，评判标准是“你学得像师父”，而不是“你做菜本身正不正确”。

阿福这才明白，他的成绩单上写的是“像不像师父”，而不是“菜好不好吃”。这套思路贯穿了他的整条学艺之路。

章节二 全局忠实度：满汉全席的整体风格

老主顾们说，光比一道菜不够。陈师傅最拿手的是“四季宴”，一年三百六十五天道道不同。阿福得把师父一整年上过的菜全部学一遍，看看整体水平像不像。

全局代理模型（global surrogate）的思路正是如此：在整个输入空间上，用一个可解释模型去拟合黑箱模型的全部行为。典型做法是采样大量覆盖不同区域的样本，喂给黑箱得到预测，再用线性模型或决策树去拟合这批“输入—预测”对。拟合好后，这个全局代理就是黑箱的“公开替身”，用来回答“模型整体依赖什么规律做决策”。

全局忠实度衡量这个替身在整个输入域上的平均逼近程度，核心落地指标是预测一致率。但全局模型受表达能力限制，就像阿福用“家常菜理论”概括师父的“分子料理”，只能抓住大方向。

阿福用全局一致率打分，“四季宴”能得 90 分，可单拿师父最拿手的“开水白菜”出来，他还是做不对——这说明全局高不代表每个细节都到位，需要另一把尺子。

章节三 局部忠实度：单道招牌菜的火候

老主顾提醒阿福：解释一道菜，客人最关心的不是你的整体风格，而是“这一碟开水白菜”为什么这么清甜。于是阿福开始针对每一道具体的菜做精细模仿。

局部代理模型（local surrogate）只在某个样本的邻域内建模。最著名的例子是 LIME：对目标样本做微小扰动，生成一批邻域样本，喂给黑箱得到预测，再在邻域上训练一个简单模型。这个简单模型只解释“这一点附近”黑箱的决策逻辑，精度通常比全局模型高。

局部忠实度衡量邻域内代理与黑箱的预测一致程度。邻域采样分布、邻域大小都会影响结果——邻域选得太宽，局部会退化成全局；选得太窄，样本太少又不稳定。

阿福后来才发现，真正难的不是背菜谱，而是定义“邻域”——就像“开水白菜”的邻域到底是清汤还是白菜帮子。这一选择直接决定了局部解释的可信度。

章节四 预测一致率：裁判的计分表

无论全局还是局部，最直接的打分方式都一样——请裁判盲测。陈师傅和阿福各做一道菜，客人蒙眼尝完只说“同意”或“不同意”，把所有菜对比一遍，数一数有多少道被客人认为“是同一个味儿”。

预测一致率（prediction agreement rate）就是这样的计分表。给定一组样本，让黑箱和代理分别预测，统计两者输出一致的样本占比。对分类任务，一致就是类别完全相同；对回归任务，则需要设定一个容忍误差，差值小于阈值才算一致。

这个指标简单直观，但有两个陷阱：第一，类别不平衡时，70% 的一致率可能只是“大家都在猜多数类”；第二，一致率只关心结果是否相同，不关心模型是否因为同一个原因做出判断——两个模型可能“碰巧蒙对了同一个答案”。

阿福发现，裁判说“味道一样”还不够，他还想知道师父和自己在做菜时是不是想着同一件事——这时候就需要看归因了。

章节五 归因相关性：关键配料的对账

阿福有个更深的疑问：一道菜好吃，师父认为是“老母鸡吊汤”的功劳，自己却以为是“味精放得多”。解释若归因错了，即使味道碰巧一样，客人也会被带偏。于是老主顾们又教他一招：对账关键配料。

归因相关性（attribution correlation）比较黑箱与代理各自给出的“特征重要性”是否一致。黑箱模型如果自带归因（如树模型的特征重要性、神经网络的热力图），就与代理模型的权重或 SHAP 值做相关性分析；相关性越高，说明两者的“归因逻辑”越接近。

最常用的度量是皮尔逊相关系数，取值在 −1 到 1 之间。它同时考察两个维度：方向（双方是否认为同一个特征重要）和相对幅度（重要程度的排序是否接近）。

$$r = \frac{\sum_{j=1}^{d} (g_j - \bar{g})(\hat{g}_j - \bar{\hat{g}})} {\sqrt{\sum_{j=1}^{d} (g_j - \bar{g})^2} \cdot \sqrt{\sum_{j=1}^{d} (\hat{g}_j - \bar{\hat{g}})^2}}$$

阿福拿着两张“配料功劳清单”一对照，果然发现有几道菜自己归因全错。从此他明白：味道像（预测一致）是及格线，归因像（归因相关）才是真本事。

章节六 评估流程设计：一场严谨的拜师考核

老主顾们告诉阿福，盲测不能只测一次。今天测酸菜鱼，明天测珍珠丸子，样本要换着来，还得让师父随机发挥，否则阿福背熟了考题，成绩就会虚高。

代理模型忠实度的评估流程也有同样的原则。第一是数据划分：用来评估的样本必须是代理模型没见过的，最好来自独立采样或邻域扰动；第二是监督信号：代理只拟合黑箱的预测输出，不碰真实标签；第三是基线对照：把代理与一个朴素基线（如多数类预测）对比，防止“假高分”；第四是多次重复验证：改变采样种子、邻域大小或扰动尺度，看忠实度是否稳定。

一套规范的评估流程还要记录评估条件：样本量、阈值 τ、邻域范围、代理模型类型。这些超参数一变，忠实度分数可能大不相同。只报一个数字而不报条件，等于只给裁判看分数、不给看考题。

阿福把考核做成了一本手册：什么菜系、什么考场、什么样的考官，全都写清楚。从此他再向师父汇报学习进度，每一分成绩都有据可查。

章节七 信任与应用价值：别端出误导客人的菜

阿福的考核手册还有一个隐藏作用：如果哪天某道菜的相似度突然掉到及格线以下，他就要警惕——自己的模仿理论可能出了问题，再拿这套理论去跟客人解释，就是误导。

忠实度不足的代理模型会产出误导性解释，这是可解释 AI 最危险的失败模式之一。在金融信贷、医疗诊断、公共治理等高风险场景，解释一旦被用户或监管采信，错误的归因可能导致错误决策。因此忠实度是解释可靠性的“质检线”：低分解释宁可不出，也不能误发。

在工程部署中，忠实度评估是解释模块上线的必修课。团队通常会对代理解释做定期在线监测：采集真实用户请求样本，周期性重算预测一致率与归因相关性，一旦低于阈值就触发告警，回退到无解释模式或重新训练代理模型。

阿福终于拿到了师父的认可——不是因为他做的菜完全和师父一样，而是因为他知道自己的每一道解释几斤几两，从不虚报。这份“知道自己几斤几两”的能力，就是可解释 AI 对用户信任最实在的承诺。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.datasets import make_classificationfrom sklearn.ensemble import RandomForestClassifierfrom sklearn.linear_model import LogisticRegressionfrom sklearn.model_selection import train_test_split X, y = make_classification(n_samples=600, n_features=8, n_informative=5,                           n_redundant=2, random_state=42)X_tr, X_te, y_tr, y_te = train_test_split(X, y, test_size=0.3,                                          random_state=1) # 黑箱模型: 随机森林, 只对外暴露预测结果blackbox = RandomForestClassifier(n_estimators=100, random_state=0)blackbox.fit(X_tr, y_tr) # 全局代理模型: 在"黑箱预测结果"上训练, 而非真实标签proxy = LogisticRegression(max_iter=1000)proxy.fit(X_tr, blackbox.predict(X_tr)) y_bb = blackbox.predict(X_te)y_px = proxy.predict(X_te)agree_global = np.mean(y_bb == y_px)print('global fidelity (agreement): %.3f' % agree_global) # 局部代理: 围绕目标样本做邻域扰动评估target = X_te[0]neigh = np.random.normal(loc=target, scale=0.15, size=(300, X.shape[1]))y_neigh_bb = blackbox.predict(neigh)y_neigh_px = proxy.predict(neigh)agree_local = np.mean(y_neigh_bb == y_neigh_px)print('local fidelity: %.3f' % agree_local) # 归因相关性: 对比代理系数方向与黑箱特征重要性方向coef = proxy.coef_[0]coef_n = coef / (np.linalg.norm(coef) + 1e-9)imp_n = blackbox.feature_importances_ / (    np.linalg.norm(blackbox.feature_importances_) + 1e-9)attr_corr = float(np.dot(imp_n, coef_n))print('attribution correlation: %.3f' % attr_corr)

1. proxy.fit(X_tr, blackbox.predict(X_tr))关键！代理模型拟合的不是真实标签，而是黑箱的输出，这正是忠实度评估的基石。
2. y_bb = blackbox.predict(X_te)用独立测试集获取黑箱预测，确保评估样本是代理没见过的。
3. agree_global = np.mean(y_bb == y_px)用布尔比较求均值，一步算出全局预测一致率。
4. neigh = np.random.normal(loc=target, scale=0.15, size=(300, X.shape[1]))在目标样本附近生成邻域样本，模拟 LIME 的局部扰动思想。
5. agree_local = np.mean(y_neigh_bb == y_neigh_px)在邻域上重新计算一致率，得到局部忠实度。
6. coef_n = coef / (np.linalg.norm(coef) + 1e-9)对代理模型的回归系数做归一化，便于与黑箱特征重要性同尺度比较。
7. attr_corr = float(np.dot(imp_n, coef_n))用两向量归一化后的点积近似衡量归因方向一致性，对应文章中的相关性思想。

常见误区

面试题