想象你是一位美食博主，走进一家从不开放厨房的“黑盒餐厅”。服务员端上一碗汤，只告诉你一句话：“4.8 分。”没有菜谱、没有配料表、没有大厨采访。你想写一篇真诚的食评，却连“为什么高分”都说不出来——是食材新鲜？火候精准？还是酱汁的功劳？这时，你需要一种神奇的能力：顺着分数倒推，把每一分都追溯到具体的原料，端上一份“功劳清单”。这正是 AI 从业者的日常——模型就像那位沉默的大厨，能给出精准预测，却从不解释依据。特征归因方法（Feature Attribution）就是你的“舌尖侦探”，把一次黑盒预测拆成每个特征的贡献值，让模型的“口味密码”无处可藏。

岗位关联

掌握特征归因，你就能把只会给答案的黑盒模型，变成“可解释、可审计、可沟通”的团队伙伴。这是 AI 合规、模型调试与用户信任建设的核心底层能力。

目录
  1. 可视化演示
  2. 归因基础原理
  3. SHAP公平拆分
  4. LIME局部代理
  5. 集成梯度法
  6. 应用与选型
  7. 验证与可视化
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示SHAP特征贡献分解、SHAP/LIME/IG三种方法对比、局部到全局归因聚合。切换模式理解可解释AI的特征归因核心方法。

本节配有交互动效（进入视口后自动加载，约 3KB）。

SHAP特征贡献分解 SHAP基于Shapley值将预测与基准值的差异公平分配到各特征，正值推高预测，负值拉低 特征贡献按绝对值排序，最上方为贡献最大的特征，可视化展示各特征的推/拉方向 f(x) = base_value + Σ φ_i(x) SHAP保证归因的公平性和一致性

归因基础原理

阿明是一位资深美食博主，这天他走进一家号称“4.8 分神作”的新餐厅。可这家店没有开放厨房，没有菜谱，服务生只端上一碗汤和一句“4.8 分”。阿明想写一篇有理有据的推文，却连“为什么高分”都无从谈起。他意识到：光知道总分远远不够，他需要把总分拆开，看看鲜虾、瑶柱、辣椒、盐巴分别在这 4.8 分里扮演了什么角色。

这碗汤就是一次具体的模型预测，汤里的每一种食材就是输入特征。神秘大厨（黑盒模型）只交出最终评分（预测值），从不透露食材的作用。特征归因要解决的，正是“从结果反推贡献”：把一次预测拆成一组数字，每个数字表示某个特征把评分从基准水平拉高或拉低了多少。阿明想要的是一份“加法清单”——每个特征的贡献直接相加，能还原出总分。

对于绝大多数模型，我们希望获得加法归因结构：

阿明在推文里写下第一句话：“4.8 分的秘密，藏在每种食材的边际拉动里。把每一项写清楚，黑盒就不再是黑盒。”这份“加减账本”，就是特征归因建立信任的第一步。

f(x)=ϕ0+∑i=1Mϕi\displaystyle f(x) = \phi_0 + \sum_{i=1}^{M} \phi_i
公式含义：模型的预测值 = 全体样本的基准分 + 每个特征贡献值的累加。
  1. 预测值 f(x)模型对一个输入样本 x 的输出，相当于“那碗汤的 4.8 分”。
    f(x)\displaystyle f(x)
  2. 基准值 φ₀训练集上所有预测的平均值，相当于“整条街上餐厅的平均分 4.2”。
    ϕ0\displaystyle \phi_0
  3. 特征贡献累加把 M 个特征的贡献逐项加起来，意味着“拆得开，也得合得上”。
    ∑i=1Mϕi\displaystyle \sum_{i=1}^{M} \phi_i

SHAP公平拆分

阿明发现直接尝一口汤看不出门道，于是他请来一群美食评审。评审们被要求随机组合食材——有时只上虾，有时上虾加瑶柱，有时又撤掉辣椒——再逐一打分。通过比较“没有虾的菜”和“有虾的菜”的分差，阿明能测出虾的边际作用。可问题来了：不同上菜顺序、不同食材组合，测出来的虾贡献都不太一样，到底哪个才算公平？

这个问题恰似博弈论中的“联盟收益分配”：一群球员共同赢得奖金，如何公平地说明每个球员的贡献？夏普利值给出了唯一公平答案——平均该成员在所有可能联盟排列中的边际贡献。把“球员”换成“特征”、“奖金”换成“预测分”，就得到了 SHAP（SHapley Additive exPlanations）。它是当前理论性质最扎实的特征归因方法之一，在树模型上还有高效实现。

SHAP 的计算公式是：

阿明在食评里总结：“虾的功劳不是固定的 +0.2，只有把它放进不同组合里反复比较，才能得到公平的 0.2。”评审团轮换着菜品组合，最终得到了每个人的“公平收益”——这正是 SHAP 被称为“最公平解释者”的原因。

ϕi=∑S⊆F∖{i}∣S∣!(M−∣S∣−1)!M![v(S∪{i})−v(S)]\displaystyle \phi_i = \sum_{S \subseteq F \setminus \{i\}} \frac{|S|!(M-|S|-1)!}{M!} \left[ v(S\cup\{i\}) - v(S) \right]
公式含义：特征 i 的贡献，等于它在所有不含 i 的联盟中“加入前后评分差”的加权平均。权重代表该联盟排列出现的概率。
  1. 特征全集 F所有可能影响评分的食材，例如 {虾，瑶柱，辣椒，盐}。
    F={1,2,…,M}\displaystyle F = \{1, 2, \dots, M\}
  2. 子集 S除特征 i 外的一个组合，比如“只放虾和瑶柱”。
    S⊂F∖{i}\displaystyle S \subset F \setminus \{i\}
  3. 联盟价值 v(S)只开启 S 中特征时模型的预期输出，相当于“只上这几样食材时评审给的分数”。
    v(S)\displaystyle v(S)
  4. 边际贡献加入特征 i 前后联盟价值的变化，表示“因为 i 的到来而新增的分量”。
    v(S∪{i})−v(S)\displaystyle v(S\cup\{i\}) - v(S)
  5. 权重系数在所有排列顺序中，恰好先遇到 S 中特征再遇到 i 的概率，确保每个顺序都被平等考虑。
    ∣S∣!(M−∣S∣−1)!M!\displaystyle \frac{|S|!(M-|S|-1)!}{M!}

LIME局部代理

有一次，阿明发现了一个偷懒却聪明的技巧：与其翻完整本黑盒菜谱，不如只聚焦眼前这一碗汤附近的“味道范围”。他想象，这条街上相邻几家餐厅的口味差异其实很小，所以只要画一张“迷你口味地图”，就能解释清楚这家店为什么会拿高分。至于远处的餐厅，他暂时不用管。

这就是 LIME（Local Interpretable Model-agnostic Explanations）的核心思想：在待解释样本的局部邻域内，用一个简单的可解释模型（如线性回归）去近似复杂的黑盒。做法是在样本附近随机扰动特征值，生成一批“试验汤”，让黑盒给它们打分，再用这些分数训练一个简单代理模型。这个代理模型只负责把 x 附近的小范围解释明白。

LIME 的形式化目标是：

阿明在推文里写道：“我不必读完整本菜单，也不必掀开厨房的盖子——我只在汤碗这片小区域里做实验，就能精准预言这道菜为什么加分。”LIME 用“局部妥协”换来了“快速可读”。

ξ(x)=arg min⁡g∈G[∑z∈Zπx(z)(f(z)−g(z))2+Ω(g)]\displaystyle \xi(x) = \operatorname*{arg\,min}_{g \in G} \left[ \sum_{z \in Z} \pi_x(z) \left( f(z) - g(z) \right)^2 + \Omega(g) \right]
公式含义：在保证简单性的前提下，找到一个代理模型 g，使它在样本 x 附近尽可能贴近黑盒模型 f 的表现。
  1. 目标样本 x待解释的具体输入，比如那碗 4.8 分的汤。
    x\displaystyle x
  2. 扰动样本集 Z在 x 附近反复调整食材用量生成的一碗碗“试验汤”。
    z∈Z\displaystyle z \in Z
  3. 局部权重 πₓ(z)z 与 x 越相似，权重越大；好比附近的餐厅更有参考价值。
    πx(z)\displaystyle \pi_x(z)
  4. 保真损失代理模型 g(z) 与黑盒 f(z) 的平方偏差，越小说明代理模拟得越像。
    πx(z)(f(z)−g(z))2\displaystyle \pi_x(z)(f(z) - g(z))^2
  5. 复杂度惩罚 Ω(g)控制代理模型不能太复杂，防止解释模型变得像黑盒一样难懂。
    Ω(g)\displaystyle \Omega(g)

集成梯度法

一次偶然机会，阿明在厨房门口看到师傅的完整操作：师傅先端上一锅清汤，然后一勺一勺加入调料。每加一勺，评委的分数就变化一点点。阿明把每一勺引起的分数增量都记了下来，最后把所有增量累计起来——原来“从零到满”的积分视角，竟然藏着另一种解释思路。

集成梯度（Integrated Gradients）正是这样：选择一个“零配方”的基线输入（比如全零数据），然后沿特征空间中的直线路径从基线插值到目标输入，沿途对模型梯度做积分。最终，特征 i 的贡献就是“从基线走到目标”的过程中，梯度累积的总量。它不像 LIME 那样依赖扰动采样，而是直接从模型可微属性出发。

数学表达为：

阿明写道：“每一勺都有自己的故事——不要只盯着最后的汤，要从第一勺清汤开始，把全部变化都记下来。”集成梯度因其公理化的纯净性质，常被学术界当作基准方法。

IGi(x)=(xi−xi′)∫01∂F(x′+t(x−x′))∂xi dt\displaystyle \text{IG}_i(x) = (x_i - x'_i) \int_0^1 \frac{\partial F\left(x' + t(x-x')\right)}{\partial x_i} \, dt
公式含义：特征 i 的贡献 = 该特征从基线到目标的变化量 × 路径上所有中间状态梯度的累积。
  1. 基线输入 x′解释的“零刻度”，相当于一锅白汤，通常取全零或训练集均值。
    x′\displaystyle x'
  2. 插值点在基线与目标之间形成一条直线路径，t 是路径上的进度。
    x′+t(x−x′)\displaystyle x' + t(x - x')
  3. 梯度模型在该插值点处沿特征 i 方向的瞬时变化率，意为“此刻多加一勺盐，评分会涨多少”。
    ∂F∂xi\displaystyle \frac{\partial F}{\partial x_i}
  4. 变化量因子特征 i 从基线到目标的总变化量，相当于“总共有多少勺盐要加”。
    xi−xi′\displaystyle x_i - x'_i
  5. 积分把路径上每个微小变化率连续累加起来，避免只看终点的局部梯度。
    ∫01⋯ dt\displaystyle \int_0^1 \cdots \, dt

应用与选型

阿明现在已经会三种评菜方法了，但什么时候用哪个？他总结出经验：若顾客想弄清一整桌套餐的定价逻辑，他会用费时但公平的 SHAP；若顾客只想知道“这碗汤为什么比隔壁的好喝”，LIME 能快速交差；若顾客要求理论严谨、上得了论文，集成梯度最合适。

选型本质上是在平衡三点：解释粒度（局部 or 全局）、计算成本、模型类型。SHAP 在树模型上已有 TreeSHAP 加速；LIME 是模型无关框架，任何黑盒都能解释；集成梯度要求模型可微，在图像与 NLP 中表现亮眼。值得注意的是，精确的夏普利值计算需要枚举所有特征子集，代价高昂：

阿明推文的最后一段写道：“没有万能的评菜法，只有适配的场景——想拆全桌账，就用 SHAP；想解释一口汤，就用 LIME；想证明哪一步下了功夫，就用集成梯度。”选对方法，比会更多方法更重要。

CostSHAP=O(∑i=0M(Mi))=O(2M)\displaystyle \text{Cost}_{\text{SHAP}} = O\left(\sum_{i=0}^{M} \binom{M}{i}\right) = O(2^M)
公式含义：精确 SHAP 需要评估 2 的 M 次方个联盟组合，特征数量稍多就会指数爆炸，所以工业界常用近似算法或 TreeSHAP 加速。
  1. 组合数从 M 个特征中选出 i 个特征组成子集的所有可能数量。
    (Mi)\displaystyle \binom{M}{i}
  2. 枚举求和对所有子集大小逐一累加，覆盖全部联盟。
    ∑i=0M(Mi)\displaystyle \sum_{i=0}^{M} \binom{M}{i}
  3. 指数复杂度组合总数恰等于 2 的 M 次方，特征数翻倍时计算量爆炸式增长。
    O(2M)\displaystyle O(2^M)

验证与可视化

阿明写完初稿后并不敢直接发布。他请来另一位博主嘟嘟独立复评。阿明把汤里的食材逐一撤走，观察评分变化，再把自己的解释与嘟嘟的印象对照——如果解释里写着“虾能带来 +0.3”，而实际撤走虾后评分确实跌了约 0.3，这个解释才算通过考验。

验证归因的常用手段包括：移除高贡献特征后观察预测变化（特征删除测试）、检查归因加和能否重建预测（重建误差）。如果重建误差很大，说明归因分解漏掉了重要的交互效应。与此同时，可视化能让归因“说人话”：瀑布图适合展示单样本的逐级拆解，蜂群图展示全局特征分布，柱状图适合快速横向比较。

加性重建误差的定义为：

阿明最后画出一张瀑布图：横轴从基准线出发，每根柱子逐级上升或下降，最终稳稳落在 4.8 上。嘟嘟点点头：“解释和实测吻合，这张图我信。”——好的可视化，让归因不止是数学，更是一则可信赖的故事。

ϵ=f(x)−(ϕ0+∑i=1Mϕi)\displaystyle \epsilon = f(x) - \left( \phi_0 + \sum_{i=1}^{M} \phi_i \right)
公式含义：重建误差 = 模型真实预测 − 归因加和重建的预测。误差越接近零，说明这套归因越完整、越自洽。
  1. 真实预测模型给出的原始输出值。
    f(x)\displaystyle f(x)
  2. 重建预测把基准分与所有特征贡献累加得到的还原值。
    ϕ0+∑i=1Mϕi\displaystyle \phi_0 + \sum_{i=1}^{M} \phi_i
  3. 误差项两者之差，表示归因分解未能解释的残余部分（如特征交互）。
    ϵ\displaystyle \epsilon

AI 应用场景

信贷风控的合规解释

阶段：模型解释与合规审计

解决的问题：银行拒绝贷款时必须给出明确理由，否则面临监管处罚和客户投诉。传统风控模型只输出“拒绝”，无法满足法规对算法决策透明性的要求。

具体案例：某银行使用 XGBoost 信用评分模型，客户“年龄 38 岁、月收入 1.2 万、负债率 0.42、近年逾期 1 次”被拒。通过 SHAP 拆解，发现“负债率”贡献 −1.8 分、“逾期记录”贡献 −2.3 分，两者合计直接压倒了收入的正贡献。解释报告生成后，客户异议率下降 35%。

智能客服的误判调试

阶段：模型调试与诊断

解决的问题：客服机器人总把“退货”误判为“取消订单”，传统调试只能靠人工换样本，效率低且定位不准。特征归因能把每次误判的“元凶特征”直接拎出来。

具体案例：某电商客服模型对用户句子“我要退了，地址有问题”判断错误。用 LIME 对这条样本做局部解释，发现“地址”这个词的权重被错误放大，而“退”的权重不足。工程师据此补充标注语料，五天内误判率下降 12%。

医疗影像辅助诊断的用户信任

阶段：决策可解释与用户信任建设

解决的问题：医生不敢采纳 AI 判读结果，因为黑盒模型说不出“病灶区域在哪”。没有归因解释，再准的模型也难落地。

具体案例：某肺结节筛查模型对 CT 影像给出“高风险”结论。使用集成梯度生成热力图，模型把高响应区域集中在结节边缘的毛刺结构上，与影像科医生的诊断依据一致。医生确认后签字采纳，阅片耗时从 12 分钟降至 4 分钟。

Python 演示

python43 行
"""特征归因:用精确 Shapley 值拆解一次餐厅评分预测"""from itertools import combinationsfrom math import factorialimport numpy as np FEATURES = ["菜品质量", "服务态度", "环境氛围", "价格水平"] def blackbox(x):    """神秘大厨:一个加权线性评分器 (带基准分)"""    weights = np.array([0.5, 0.3, 0.1, -0.2])    return float(np.dot(x, weights)) + 3.5 def coalition_value(subset, x):    """计算联盟 S 的价值:掩盖不在 S 中的特征"""    z = np.zeros(len(x))    for j in subset:        z[j] = x[j]    return blackbox(z) def exact_shap(x):    M = len(x)    phi = np.zeros(M)    for i in range(M):        others = [j for j in range(M) if j != i]        for size in range(M):            for sub in combinations(others, size):                S = set(sub)                marginal = coalition_value(S | {i}, x) - coalition_value(S, x)                weight = factorial(size) * factorial(M - size - 1) / factorial(M)                phi[i] += weight * marginal    return phi if __name__ == "__main__":    sample = np.array([1.0, 0.5, 0.8, 1.0])    contributions = exact_shap(sample)    base = blackbox(np.zeros(len(sample)))    pred = blackbox(sample)    print("基线评分:", base)    print("预测评分:", pred)    for name, c in zip(FEATURES, contributions):        print(f"{name}贡献: {c:+.4f}")    reconstructed = base + np.sum(contributions)    print("加和重建:", reconstructed, " 解释误差:", pred - reconstructed)
目的：用枚举所有特征子集的精确算法，计算一个简单评分模型的 SHAP 值，并验证“加法分解”能否还原预测。
  1. def blackbox(x):定义“神秘大厨”，输入特征向量，输出一个预测分数。
  2. z = np.zeros(len(x))生成全 0 的掩码输入，把“不在联盟中的特征”清空，等价于这道菜不放这些食材。
  3. for sub in combinations(others, size):枚举所有不含 i 的尺寸为 size 的特征组合，模拟评审团的各种品尝组合。
  4. marginal = coalition_value(S | {i}, x) - coalition_value(S, x)计算加入特征 i 前后的评分差，即夏普利边际贡献。
  5. weight = factorial(size) * factorial(M - size - 1) / factorial(M)计算该联盟排列出现的概率权重，保证公平。
  6. phi[i] += weight * marginal对所有联盟的边际贡献做加权累加，得到特征 i 的最终 SHAP 值。
  7. reconstructed = base + np.sum(contributions)用基准分加所有贡献重建预测，验证“拆得开也合得上”。

常见误区

误区看到模型对输入求梯度，就觉得“梯度大的特征就是重要特征”。我直接对输入 x 求梯度，拿到结果就能用来解释预测了，何必还需要集成梯度那么复杂的积分？

正解梯度只描述输入在某一瞬间的局部变化率，无法反映从基线到目标整个路径上的贡献。尤其在 sigmoid 等函数饱和区，梯度趋近于 0，但特征可能早已把预测推向了高分。集成梯度之所以要沿路径积分，正是为了把“一路上的变化”都累计起来，避免只看终点处的局部信息。

为何常见：深度学习框架里一行 .backward() 就能拿到梯度，太方便了，容易让人误以为“能求导就等于能解释”。

误区SHAP 值给了某个特征 +0.3，我就以为“只要把这个特征改大，预测就一定会提高 0.3”。这不对吗？它不就是边际贡献吗？

正解SHAP 是对已有预测的数学分解，描述的是“在这个样本的预测中，该特征被分摊了多少功劳”，不是干预因果实验。特征之间存在交互时，单独改动一个特征常常会连锁影响其他特征的贡献，实测变化会偏离 SHAP 值。如果想要因果结论，需要做对照实验或反事实推理，不能直接把归因当因果。

为何常见：归因值的“贡献”字眼太有因果感了，加上数值正负分明，很容易让人误以为可以替代干预实验。

误区我用 LIME 对某个客户做出了“因为收入低所以被拒贷”的解释，于是想把这个解释直接套用到其他所有被拒客户身上，反正都是被拒嘛，理由应该差不多。

正解LIME 只在被解释样本附近的小邻域内保证近似质量，离开这个区域后，代理模型和黑盒的偏差会迅速变大。每个样本的局部邻居不同，解释也会不同。正确做法是分别对每个目标样本单独构建局部模型，或使用 SHAP 这类具备全局一致性的方法做跨样本汇总。

为何常见：人们天然喜欢“以偏概全”，一个解释看起来合理，就容易想当然推广到整群样本。

误区验证归因时，把 SHAP 值最大的特征置为零，模型预测下降的量就应该正好等于该特征的 SHAP 值。如果不相等，就说明归因算错了。

正解遮蔽（置零/替换为基线）会同时改变其他特征的交互环境，预测变化包含的不仅是该特征消失的影响，还有交互关系断裂的连带效应。因此“移除特征后的预测变化”通常不等于该特征的归因值。验证应通过多次剔除、对比加和重建误差等方式综合判断，而不是做一对一的简单等号。

为何常见：“归因值 = 拿走后的损失”这个直觉太强了，但实际预测是特征间协同作用的结果，不能简单线性拆账。

面试题

Q1. 特征归因方法最核心的目标是

单选题 · easy

  • A.压缩模型的内存占用
  • B.提升模型的训练精度
  • C.量化输入特征的贡献← 正确答案
  • D.加速模型推理速度

答案：C。特征归因的核心是回答“为什么预测这个结果”，即把预测值拆解为各输入特征的贡献。C 选项准确描述了这一目标；A、B、D 分别属于模型压缩、训练优化和推理加速，与“解释预测”无关。

Q2. SHAP 方法对应的理论基础是

单选题 · easy

  • A.贝叶斯推理原理
  • B.博弈论夏普利值← 正确答案
  • C.信息熵最大理论
  • D.决策树剪枝算法

答案：B。SHAP 将特征视为博弈玩家，用夏普利值公平分配预测贡献。B 正确；贝叶斯推理关注后验概率，信息熵理论关注不确定性度量，决策树剪枝是防过拟合手段，都与 SHAP 的来源无关。

Q3. 一个靠谱的特征归因结果应具备哪些特点

多选题 · easy

  • A.正负方向体现影响← 正确答案
  • B.数值大小可比大小← 正确答案
  • C.所有值均为正数
  • D.排名具备参考价值← 正确答案

答案：ABD。特征归因应能体现每个特征对预测的推高或拉低方向（A），数值越大代表贡献越强（B），并且可以据此对特征重要性排序（D）。C 错误——特征完全可以有负贡献，比如“价格高”会把评分拉低。

Q4. LIME 方法通过什么手段建立局部代理模型

单选题 · mid

  • A.对全量样本重新训练
  • B.在邻域内扰动采样← 正确答案
  • C.用反向传播修正权重
  • D.对特征做交叉验证

答案：B。LIME 在待解释样本附近生成扰动样本，让黑盒打分后训练一个简单代理模型。B 正确；“全量重训”是重新建模，“反向传播”属于梯度训练，交叉验证是评估手段，都不是 LIME 建立局部代理的方式。

Q5. 集成梯度法的起点是

单选题 · mid

  • A.输入最大值
  • B.基线输入← 正确答案
  • C.解码器噪声
  • D.高斯分布中心

答案：B。集成梯度从基线输入出发，沿直线插值到目标输入，途中积分梯度。B 正确；“输入最大值”是目标附近的点，“高斯中心”是采样起点，“解码器噪声”是生成模型概念，均与基线定义无关。

Q6. 希望得到全局特征重要性排名时，应优先选用

单选题 · mid

  • A.单独一次 LIME 解释
  • B.一个局部代理模型
  • C.多个样本的 SHAP 汇总← 正确答案
  • D.单样本的集成梯度

答案：C。全局重要性需要覆盖大量样本的统计汇总。SHAP 值天然具备加法一致性，可将多个样本的贡献平均或加总，得到横跨全局的排名；LIME 和集成梯度的单次解释只描述局部单点，无法直接代表全局。

Q7. 关于 SHAP 与 LIME，正确的说法有哪些

多选题 · mid

  • A.SHAP 值满足可加性公理← 正确答案
  • B.LIME 可以解释任意黑盒← 正确答案
  • C.SHAP 无法用于深度学习
  • D.LIME 擅长局部特征定位← 正确答案

答案：ABD。SHAP 的核心公理之一就是加法性，A 正确；LIME 通过扰动采样拟合代理模型，不依赖模型内部结构，因而可解释任意黑盒，B 正确；LIME 聚焦局部邻域，擅长定位该样本的关键特征，D 正确。C 错误——SHAP 同样可用于深度学习模型，只是计算成本更高。

Q8. 移除某个特征后模型预测的变化一定等于该特征的归因值吗

单选题 · hard

  • A.一定相等
  • B.视交互效应而定← 正确答案
  • C.完全无关
  • D.只取决于特征值

答案：B。当特征间存在交互时，移除一个特征会改变其他特征的取值环境与搭配效果，预测变化中混有“交互破裂”的连带影响，不等于该特征单独分摊的归因值。因此是否相等取决于交互效应的大小，B 正确。

Q9. 验证特征归因一致性时，最合适的做法是

单选题 · hard

  • A.比较不同样本的归因方差
  • B.遮蔽高贡献特征观察效果← 正确答案
  • C.只观察训练集损失函数
  • D.用归因值初始化模型

答案：B。遮蔽高贡献特征并观察预测是否按预期下降，能直观检验归因方向和量级的可信度。B 正确；“比较归因方差”是稳定性指标，不是一致性验证；“训练损失”反映拟合程度；“用归因初始化模型”不是验证归因的手段。

Q10. 集成梯度法满足下面哪些公理

多选题 · extreme

  • A.敏感度公理← 正确答案
  • B.实现不变性← 正确答案
  • C.单调性公理
  • D.完备性公理← 正确答案

答案：ABD。集成梯度在理论上的三大公理是敏感度（输入变化会导致归因变化）、实现不变性（不同等价网络得到相同归因）和完备性（各特征贡献之和等于预测差）。C 单调性不是集成梯度的标准公理，属于混淆项。