想象你是美食节目主持人，面前坐着一位味觉极其灵敏的评委。他尝了一口红烧肉，闭眼打出 8.5 分，却说不出为什么喜欢，更说不清盐、糖、酱油、料酒各居多少功。深度学习模型就是这位“只会打分、不会解释”的评委：输入特征（食材）进去，预测值（分数）出来，中间发生了什么无人知晓。可解释人工智能（XAI）中的“特征归因方法”，正是要解决“每样食材到底贡献了几分”的问题。 早期方法非常“笨”：让评委把所有食材组合都试吃一遍——有盐没糖、有糖没料酒、全部不加……每多一种食材，组合数就翻一倍，这就是“组合爆炸”。真实神经网络有成千上万个特征，逐组合试吃根本不可能。后来研究者换了个聪明思路：何必逐盘试吃？只要在“从无味到成品”的加料过程中，盯住评委表情的瞬时变化率（斜率），就能估算每样食材的功劳。这个“看斜率”的方法，就是 GradientSHAP。 本文用“美食评委”的比喻，带你从零理解 GradientSHAP 的原理、公式、代码与实战陷阱。

岗位关联

学习 GradientSHAP，等于掌握一项“让深度学习模型开口解释自己”的实用技能。在风控、医疗、推荐等强监管领域，这是 AI 从业者从“调参”走向“赋能业务”的进阶必修课。

目录
  1. 可视化演示
  2. 可解释性背景：评委的黑箱
  3. SHAP基础：试吃组合的笨办法
  4. 梯度思想：盯住表情的瞬时斜率
  5. 核心原理：期望梯度的诞生
  6. 实践应用：深度模型解释的利器
  7. 工程落地：从代码到业务
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示Shapley值公平分配原理、期望梯度基准点采样计算、GradientSHAP与IG方法对比三种模式，点击按钮切换。

本节配有交互动效（进入视口后自动加载，约 3KB）。

Shapley值公平分配 φi:特征i的Shapley贡献值 基准：所有特征贡献和+基准=预测 Σφi=f(x)-E[f(xb)] Shapley值满足公平性四大公理

可解释性背景：评委的黑箱

评委把红烧肉送进嘴里，几秒后报出 8.5 分。他亲眼见过这道菜的全部食材，却无法告诉你盐给了多少分、糖又给了多少分。他的味觉系统就是一个“黑箱”——输入食材用量，输出一个分数，中间的评判逻辑像被锁进了保险柜。现实中的深度模型同样如此：给它一张图片、一段文本、一组用户特征，它给出预测，但内部“为什么”完全不可见。

特征归因方法要做的，就是给这个黑箱配一份“功劳账单”：把最终预测结果拆解成每个输入特征的贡献分。比如贷款审批模型说“拒绝”，我们要知道是因为“收入低”推高了风险评分，还是“负债率高”起了主导作用。可解释人工智能（XAI）的目标，正是让模型的决策可被人理解，从而支撑信任建立、监管合规与模型调试。

从数学上看，模型就是一个函数，把 d 维特征映射成一个预测值：

回到比喻：我们无法打开评委的大脑，但可以观察“食材变化时分数怎么变”，从外部行为反推每样食材的功劳。这就是特征归因的出发点——不问评委“为什么”，只看“改哪样、变多少”。

y=f(x1,x2,…,xd)\displaystyle y = f(x_1, x_2, \ldots, x_d)
这个公式只是说：有 d 样“食材”（特征），经过评委的味觉函数 f，得到最终“分数”（预测值）。
  1. 输入向量把 d 样食材的用量排成一列，就是模型的输入特征向量。
    x=(x1,x2,…,xd)x = (x_1, x_2, \ldots, x_d)
  2. 映射函数评委的味觉偏好，即模型对特征的处理过程，通常是一个深度神经网络。
    f(⋅)f(\cdot)
  3. 预测输出评委最终给出的分数，即模型的预测结果。
    yy

SHAP基础：试吃组合的笨办法

要精确判断每样食材的功劳，最朴素的办法是让评委把“所有食材组合”都试一遍。比如只有盐、糖两种食材，就试吃四盘：都不加、只加盐、只加糖、都加。对比“只加盐”和“都不加”，得到盐在“没有糖的世界”里的边际贡献；对比“都加”和“只加糖”，得到盐在“有糖的世界”里的边际贡献。把各种情形平均起来，就是盐的最终功劳。

这正是博弈论中 Shapley 值的思想：把每个特征当作玩家，把模型预测当作团队收益，每个玩家的贡献等于它在所有可能团队组合中边际贡献的加权平均。这个分配方式是公平的——功劳总和恰好等于总收益，且满足对称性、虚拟性等良好性质。SHAP 方法正是把 Shapley 值引入机器学习特征归因的经典框架。

Shapley 值的计算公式如下：

Shapley 值十分优雅，但有个致命伤：组合数量随特征数指数增长。食材有 3 种只需试吃 8 盘，10 种就是 1024 盘，30 种将是 10 亿盘——评委当场累趴。深度模型动辄上千个特征，这条路根本走不通，于是研究者把目光投向了“斜率”。

ϕi(v)=∑S⊆N∖{i}∣S∣! (∣N∣−∣S∣−1)!∣N∣! (v(S∪{i})−v(S))\displaystyle \phi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|!\,(|N|-|S|-1)!}{|N|!}\,\big(v(S\cup\{i\})-v(S)\big)
这个公式在枚举“所有不含食材 i 的组合”，把每种组合下加入 i 带来的分数变化做带权平均。
  1. 全集所有参与评分的食材（特征）集合。
    N={1,2,…,d}N = \{1, 2, \ldots, d\}
  2. 子集去掉食材 i 后，从其余食材中任选的一组食材。
    S⊆N∖{i}S \subseteq N \setminus \{i\}
  3. 边际贡献把食材 i 加进组合 S 后，评委打分的变化量。
    v(S∪{i})−v(S)v(S \cup \{i\}) - v(S)
  4. 权重系数由组合大小 |S| 决定的权重，保证不同大小的组合在平均中公平竞争。
    ∣S∣! (∣N∣−∣S∣−1)!∣N∣!\frac{|S|!\,(|N|-|S|-1)!}{|N|!}
  5. 遍历求和枚举所有不含 i 的子集，把“权重 × 边际贡献”累加起来，得到 Shapley 值。
    ϕi(v)=∑S⋯\phi_i(v) = \sum_{S} \cdots

梯度思想：盯住表情的瞬时斜率

与其让评委试吃所有组合，不如换一种观察方式：在他面前一点一点地加料，盯住他表情的瞬时变化。每加一勺盐，分数上升多少？每加一勺糖，分数又下降多少？这个“瞬时变化率”，在数学上就是导数。所有特征的导数排在一起，就是梯度向量。

梯度给我们的启发是：不用枚举组合，只要沿着“从无味基准点到目标菜品”这条路径，记录每一处的斜率，就能累积出整道菜的特征贡献。这就好比爬山时记录每一步的海拔变化，最终的海拔差就是全程爬升之和。对模型来说，从基准点 x' 到输入点 x 的预测变化，理论上等于路径上梯度的积分。

偏导数和梯度向量的定义如下：

只看某一瞬间的斜率会骗人——评委的味觉是非线性的，盐在淡的时候提鲜、在浓的时候发苦。所以不能只看起点或终点，而要沿整条路径观察斜率的整体变化。这就要引入“路径积分”的思想：把从起点到终点的连续过程切分成无数小段，每段看斜率、乘步长，再加起来。

∇xf(x)=(∂f∂x1,∂f∂x2,…,∂f∂xd)\displaystyle \nabla_x f(x) = \left(\frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \ldots, \frac{\partial f}{\partial x_d}\right)
梯度向量告诉我们在当前点，每样食材“再加一勺”会让分数变化多少，是所有瞬时斜率的集合。
  1. 偏导数只把食材 i 的量增加极微小的一丁点，看打分变化了多少，这就是评委对食材 i 的瞬时敏感度。
    ∂f∂xi\displaystyle \frac{\partial f}{\partial x_i}
  2. 梯度向量把所有食材的偏导数按顺序排成一列，就得到梯度。
    ∇xf(x)\nabla_x f(x)
  3. 直观含义梯度方向是打分上升最快的方向，每个分量反映对应食材在当前状态下的拉动能力。

核心原理：期望梯度的诞生

GradientSHAP 的精髓，是把 SHAP 的 Shapley 值估计与梯度信息结合起来，用“期望梯度”替代“全组合试吃”。它的做法是：先从一组代表“无味状态”的基准分布中随机抽一个起点，再随机选一个插值比例，在起点与目标菜之间取一个中间状态，计算该状态的梯度，乘以“从起点到目标加了多少料”，最后对所有随机抽样取平均。

为什么这样能近似 Shapley 值？因为 Shapley 值本质上可以写成对“从基准分布到输入点”所有线性路径上梯度的平均。每次采样相当于随机重走一条“加料路线”，走多了，各路线的平均斜率就逼近真实的贡献分配。基准分布决定了“起点白粥”是什么味道，插值系数决定了在路径的哪个位置记录斜率，二者共同构成期望的对象。

连续形式的期望梯度公式：

实际计算中，期望需要通过有限次采样来近似，于是得到离散形式：

回到比喻：GradientSHAP 不是让评委把几十种食材的所有组合都试吃一遍，而是请他喝几口“白粥”，再沿着加料过程走几条路，每走一段记一次表情斜率，多走几条路取平均。走的路越多，估算越稳；每条路都从不同的“白粥起点”出发，也避免了单一起点带来的偏见。

ϕi(x)=Ex′∼D, t∼U[0,1][(xi−xi′)⋅∂f(x′+t(x−x′))∂xi]\displaystyle \phi_i(x) = \mathbb{E}_{x' \sim D,\ t \sim U[0,1]} \left[ (x_i - x'_i)\cdot \frac{\partial f(x' + t(x-x'))}{\partial x_i} \right]
采样次数 M 越大，估计越接近真实的期望梯度，但计算时间也线性增长。
  1. 采样总数计划重走多少条“加料路径”，即总共抽取多少组基准点与系数。
    MM
  2. 第 k 组采样独立采样一个基准点和一个插值系数，组成一条随机路径。
    (x′(k), tk)(x'^{(k)},\ t_k)
  3. 乘积再累加每条路径都算出“加料量 × 瞬时梯度”后累加在一起。
    \displaystyle \sum_{k=1}^{M} (x_i - x'_i^{(k)}) \cdot \frac{\partial f(\cdot)}{\partial x_i}
  4. 除以 M 取平均用有限样本的均值逼近期望，得到最终归因。
    ϕ^i(x)\hat{\phi}_i(x)

实践应用：深度模型解释的利器

如果把深度神经网络比作分子料理大厨，那么它的“食材”数以千计，调味手法层层叠叠——全组合试吃的原始 SHAP 方法在它面前彻底失效。GradientSHAP 的优势正在于此：每次采样只需一次前向传播和一次梯度计算，复杂度大约是 O(M·d)，而原始 SHAP 需要 O(2^d) 次模型调用。当 d 达到几千甚至几万时，这是从“不可能”到“实时可跑”的跨越。

在实践中，GradientSHAP 特别适合两类场景：一是视觉模型，可以将归因结果渲染成热力图，直观显示图像中哪些区域推动了分类判断；二是大规模结构化数据模型，比如风控和推荐系统中的深度网络，需要快速给出每个特征的重要性排名。许多开源工具库（如 SHAP）都内置了 GradientSHAP 实现，调用起来非常方便。

不过，这柄利器也有打磨不到的地方。首先，GradientSHAP 是近似方法，采样数不足时结果会有波动；其次，基准分布的选择会显著影响归因结果——这相当于选了不同的“白粥”标准；第三，在高度非线性的区域，沿直线路径的梯度平均可能与真实 Shapley 值存在偏差。解读结果时要记住：正贡献表示该特征把预测值往大方向推，负贡献表示往小方向推，这与“好坏”无关——辣椒让分数涨了 2 分，不代表辣椒是道好菜。

工程落地：从代码到业务

把“评委解释术”变成日常可用的工具，需要一套清晰的工程流程。最核心的三件事：定义基准分布、实现插值采样、累积梯度平均。基准分布通常取训练集的均值或零向量填充，可以理解为“所有特征都处于无信息状态的白粥”；插值就是在白粥和目标菜之间随机取位置；梯度则由深度学习框架的自动微分直接给出，不需要手工推导。

在可视化层面，特征归因最常见的呈现形式是柱状图和瀑布图。柱状图展示每个特征贡献的大小与正负，瀑布图则从基准预测开始，一步步叠加各特征的贡献，最终落到当前预测值——这让业务方一眼看懂“为什么从 5 分变成了 8.5 分”。参数调优方面，最核心的是采样次数 n_samples：调大则估计更稳、耗时更长；调小则快速但抖动明显。实践中可以先用小采样数跑通流程，再按需增大。

从业务价值看，GradientSHAP 的输出可以用于三件事：一是模型审计，在模型上线前检查是否存在异常的“高贡献特征”；二是客户解释，为信贷被拒、保险拒赔等场景生成面向用户的合理解释；三是特征工程，通过贡献排名发现被忽视的强特征或需要清洗的噪声特征。至此，那位只会打分的评委，终于变成了一位能写出详细评语、让所有人都能看懂的“评分顾问”。

AI 应用场景

信贷风控模型审计

阶段：模型上线前的可解释性审计与合规报告

解决的问题：传统逻辑回归虽可解释但预测精度有限，深度模型精度高却被监管质疑“说不清原因”。GradientSHAP 为深度风控模型生成每个特征（收入、负债率、职业、历史逾期次数）对审批分数的贡献值，让“拒绝贷款”能落到具体依据上。

具体案例：某消费金融公司上线深度学习信用评分卡，监管要求提供单笔拒绝的合理解释。算法团队用 GradientSHAP 对每条拒贷样本生成归因报告，发现“近 3 个月查询次数”和“负债收入比”是最主要的拒贷推动因素，据此向客户和监管提交了可读的解释材料，顺利通过审计。

医疗影像辅助诊断的可视化归因

阶段：模型上线前的临床验证与医生复核

解决的问题：肺炎 X 光片分类模型即使准确率高，医生也不敢直接采信——需要知道模型“看”了图像的哪些区域。GradientSHAP 将归因结果渲染成热力图，指出哪些像素区域推动了“肺炎”的判断，辅助医生核对模型关注点是否与病灶位置一致。

具体案例：某三甲医院与 AI 团队合作部署胸片筛查模型，工程师用 GradientSHAP 对一批误诊样本做定位分析，发现模型错误地学习到了“床头标签”位置的特征。修正训练数据后，归因热力图重新聚焦到肺野区域，模型准确率与医生信任度同步提升。

推荐系统特征洞察与调试

阶段：线上模型效果分析与特征工程迭代

解决的问题：电商点击率模型特征众多，难以判断哪些特征真正驱动预测、哪些特征引入后反而带来噪声或泄漏。GradientSHAP 快速给出每个特征对单次预测的贡献，帮助算法团队定位异常。

具体案例：某电商平台 CTR 模型上线后，算法工程师用 GradientSHAP 分析发现“最近浏览时长”贡献值异常高且波动剧烈，进一步排查发现该特征在离线与在线管道中存在统计口径不一致的泄漏问题。修复后模型 AUC 稳定提升，归因结果也回归合理区间。

Python 演示

python47 行
import numpy as np  def model(x):    """两层神经网络: 输入3维特征, 输出一个0~10的评分."""    W1 = np.array([[0.8, -0.5, 0.3], [0.2, 0.9, -0.4]])    b1 = np.array([0.1, -0.2])    W2 = np.array([[0.6], [-0.3]])    b2 = np.array([0.05])    h = np.tanh(x @ W1.T + b1)    out = h @ W2 + b2    return out.item() * 3.0 + 5.0  def numerical_grad(x, eps=1e-3):    """中心差分近似梯度: 模拟评委的瞬时表情斜率."""    grad = np.zeros_like(x)    for i in range(len(x)):        dx = np.zeros_like(x)        dx[i] = eps        grad[i] = (model(x + dx) - model(x - dx)) / (2 * eps)    return grad  def gradient_shap(x, n_samples=300, seed=42):    """GradientSHAP: 使用期望梯度近似Shapley值."""    rng = np.random.default_rng(seed)    accum = np.zeros_like(x)    for _ in range(n_samples):        xb = rng.uniform(0.0, 0.2, size=len(x))        t = rng.random()        interp = xb + t * (x - xb)        g = numerical_grad(interp)        accum += (x - xb) * g    return accum / n_samples  if __name__ == "__main__":    rng = np.random.default_rng(0)    x = np.array([0.6, 0.4, 0.9])    phis = gradient_shap(x)    base_pred = np.mean([model(rng.uniform(0.0, 0.2, 3)) for _ in range(500)])    print("特征贡献:", np.round(phis, 4))    print("贡献之和:", round(phis.sum(), 4))    print("基准平均预测:", round(base_pred, 4))    print("加性校验: 贡献和+基准平均 =", round(phis.sum() + base_pred, 4))    print("当前模型评分:", round(model(x), 4))
目的：从零实现 GradientSHAP 的期望梯度流程，对一个简易神经网络计算三个特征的贡献，并验证“贡献和 + 基准预测 ≈ 当前预测”的加性性质。
  1. h = np.tanh(x @ W1.T + b1)隐藏层非线性变换，模拟评委复杂的味觉偏好。
  2. return out.item() * 3.0 + 5.0把网络原始输出映射到 0~10 分，像把情绪翻译成评分。
  3. grad[i] = (model(x + dx) - model(x - dx)) / (2 * eps)中心差分近似导数，等价于“多一勺与少一勺对比表情变化”。
  4. xb = rng.uniform(0.0, 0.2, size=len(x))从基准分布采样“无味起点”，每个特征都很清淡。
  5. interp = xb + t * (x - xb)在起点与目标菜之间插值，模拟加料加到一半的状态。
  6. accum += (x - xb) * g累加“加料量 × 瞬时斜率”，这是每条路径上的贡献。
  7. return accum / n_samples对多条随机路径取平均，得到近似的 Shapley 归因。
  8. base_pred = np.mean([model(rng.uniform(0.0, 0.2, 3)) for _ in range(500)])求基准分布的平均预测，用于验证加性关系。

常见误区

误区GradientSHAP 名字里带“梯度”，很多人以为直接把模型对输入的梯度当特征贡献就行。梯度大的特征就是重要的特征，不用再做别的计算。

正解梯度只反映“在该点的瞬时变化率”，它没有基准、没有单位。比如评委在某一瞬间对盐的表情波动很大，但如果整道菜根本没加多少盐，这点斜率也说明不了什么。GradientSHAP 必须用“加料量 × 梯度”沿路径累积，再从多个基准点取期望，才能得到真正的贡献估计。

为何常见：方法名直观上容易让人误解为“梯度即贡献”，忽略了公式里关键的路径积分与期望运算。

误区反正基准点只是采样的起点，选什么值都无所谓，全填 0 就行，对结果影响不大。

正解基准分布定义的是“没有任何信息时的状态”，是归因的零点。选不同的基准分布（全 0 向量、训练集均值、像素均值），同一个样本的归因结果可能差异巨大。就像让评委从“白粥”还是“咸菜”起步，对盐的功劳评价自然不同。实践中应选择符合业务语义的基准，比如图像用模糊图或均值图，表格数据用训练集均值。

为何常见：公式里基准点只是个采样变量，容易被认为是“技术细节”而被忽略。

误区既然期望梯度靠采样近似，那把采样次数设到一百万，结果不就等于精确 Shapley 值了吗？

正解增大采样数 M 确实能降低估计方差，让结果更稳定，但计算量线性增长，对超大模型可能不可承受。更重要的是，期望梯度本身只是对 Shapley 值的近似——在强非线性区域，直线路径上的梯度平均与精确 Shapley 值存在系统性偏差，这个偏差不会因采样增多而消失。像试吃次数够用就行，反复试吃到撑反而拖慢上菜。

为何常见：大数定律让人误以为“无限采样等于精确值”，忽略了方法本身的近似假设。

误区拿到归因结果后，看到某个特征贡献为负就认为它是“坏特征”，应该删除；贡献为正的特征就是“好特征”。

正解正贡献表示该特征值把预测往较大方向推，负贡献表示往较小方向推，这只描述“推动方向”，不表达价值判断。比如风控模型中“负债率”贡献为正，推动的是高风险评分，这个特征本身是合理且必要的。辣椒让分数涨了 2 分，不代表辣椒是道好菜——它只是这道菜里一个有方向的作用力。

为何常见：日常生活中“正负”常带有褒贬色彩，人们容易把数学符号迁移到价值判断上。

面试题

Q1. 特征归因方法要回答的核心问题是什么？

单选题 · easy

  • A.模型需要多少训练数据
  • B.每个特征对预测贡献多大← 正确答案
  • C.模型的准确率有多高
  • D.模型需要训练多少轮

答案：B。特征归因的目标是把预测结果拆解为每个输入特征的贡献分，回答“哪个特征推动了预测、推动了多少”。选项 B 准确描述了这一目标，其余选项关注的是数据量、准确率、训练轮数，均与归因无关。

Q2. 以下哪项是Shapley值的核心思想？

单选题 · easy

  • A.强化学习策略
  • B.按边际贡献分配← 正确答案
  • C.梯度下降方法
  • D.卷积核提取特征

答案：B。Shapley 值来自博弈论，核心是让每个“玩家”获得它在所有合作组合中边际贡献的加权平均，即按贡献公平分配收益。梯度下降是优化方法，强化学习和卷积核是其他 AI 子领域概念。

Q3. GradientSHAP中“期望梯度”的期望是在什么上求的？

单选题 · mid

  • A.模型参数本身的分布
  • B.基准点与插值系数的分布← 正确答案
  • C.训练数据集的标签分布
  • D.梯度向量模长的分布

答案：B。期望梯度公式中，期望是对基准分布 D 采样的起点 x′ 和 [0,1] 均匀分布的插值系数 t 求的。模型参数是固定的，训练标签和梯度模长都不在公式的期望范围内，因此选 B。

Q4. 与原始SHAP相比，GradientSHAP最主要的优势是？

单选题 · mid

  • A.解释结果更精确
  • B.计算效率更高← 正确答案
  • C.不需要基准样本
  • D.只适合线性模型

答案：B。原始 SHAP 需要枚举所有特征子集，复杂度为指数级；GradientSHAP 用采样梯度近似 Shapley 值，复杂度降到线性级，计算效率大幅提升。它仍需基准样本，也适用于非线性深度模型，且结果是近似而非更精确。

Q5. 公式 φi=E[(xi−x'i)·∂f/∂xi] 中，x' 代表什么？

单选题 · mid

  • A.当前输入样本
  • B.基准采样点← 正确答案
  • C.模型参数向量
  • D.梯度向量本身

答案：B。x' 是从基准分布中采样的“无味起点”，代表无信息状态下的特征值。当前输入是 x，模型参数和梯度都不是这个符号的含义。基准点决定了归因的参考零点。

Q6. 以下哪项不是Shapley值满足的性质？

单选题 · hard

  • A.可加性保证
  • B.对称性保证
  • C.虚拟性保证
  • D.凸性条件← 正确答案

答案：D。Shapley 值满足可加性、对称性、虚拟性（无效玩家贡献为零）等公理，而“凸性”是优化理论中关于函数形态的概念，不属于 Shapley 值的性质体系，因此选 D。

Q7. “黑箱模型”在AI领域通常指什么？

单选题 · easy

  • A.结构经过加密的模型
  • B.内部机制难以解释的模型← 正确答案
  • C.不包含任何参数的模型
  • D.训练过程中失败的模型

答案：B。黑箱模型指输入到输出的映射过程难以被人理解的模型，比如深层神经网络。它并非加密、无参数或训练失败，而是指其内部决策逻辑缺乏透明性，所以才需要特征归因方法来“打开”它。

Q8. 关于GradientSHAP，下列说法正确的有？

多选题 · mid

  • A.需要采样基准点← 正确答案
  • B.利用梯度信息近似← 正确答案
  • C.不需要插值过程
  • D.是SHAP的高效实现← 正确答案

答案：ABD。GradientSHAP 的核心流程正是“从基准分布采样起点 + 沿插值路径计算梯度 + 取期望”，因此 A、B 正确，C 错误。它是 SHAP 框架在深度模型上的高效实现方案，D 正确。

Q9. 影响GradientSHAP结果质量的因素有哪些？

多选题 · hard

  • A.基准分布的选取← 正确答案
  • B.采样次数的多少← 正确答案
  • C.模型参数的颜色
  • D.插值路径的构造← 正确答案

答案：ABD。基准分布决定归因的零点，采样次数决定估计方差，插值路径（直线及采样位置）决定近似的偏差大小，三者都直接影响结果质量。模型参数的颜色与计算和语义完全无关，属于干扰项。

Q10. 以下哪些说法符合GradientSHAP的设计理念？

多选题 · extreme

  • A.用路径积分替代组合枚举← 正确答案
  • B.从多个基准点求平均梯度← 正确答案
  • C.结果与精确Shapley值恒等
  • D.适合深层神经网络解释← 正确答案

答案：ABD。GradientSHAP 用沿路径的期望梯度替代了原始 SHAP 的指数级组合枚举，并且从多个基准点采样取平均，因此 A、B 正确。它适合大规模深度模型解释，D 正确。但它只是对 Shapley 值的近似估计，并非恒等，C 错误。