多组学模型可解释性

可视化演示

展示多组学模型中SHAP值特征贡献分解与Integrated Gradients梯度积分路径，对比两种解释方法的一致性。

可解释性概述

街角那家“算法餐厅”的诊断汤声名远扬：你递上一篮子食材——基因数据、蛋白读数、代谢物浓度——黑箱大厨三分钟就断定你患某种疾病的概率。汤虽准，顾客却越来越不安：“凭什么说我有病？是哪种食材让您皱眉？”大厨只回一句：“我的秘方，别问。”这就是黑箱模型的典型困境：预测越重要，不可解释越令人恐惧。

真实世界中的 AI 模型大多如此——深度学习模型准确率高得惊人，却说不清判断依据。在生命医学领域，这种“闷头干活不解释”的态度尤其不可接受：医生需要判断机器是否抓住了真正的生物学信号，患者有权知道结论的依据，监管法规也明确要求高风险 AI 系统提供合理解释。可解释性（Explainability）因此成为 AI 落地医疗的刚需。

可解释性通常分两个维度：其一，全局解释与局部解释。全局解释描述模型整体的决策逻辑，好比大厨的“得意菜系概览”；局部解释说明单个样本的预测依据，好比“这一碗汤里为什么放了这么多盐”。其二，固有可解释与事后可解释。前者指白箱模型（线性回归、决策树）自带逻辑，后者指对训练好的黑箱模型做二次分析。多组学模型以深度网络和集成树为主，天然依赖事后可解释，SHAP 与 Integrated Gradients 正属此类。

可以说，SHAP 与 IG 是两位风格迥异的“解释员”：前者擅长“公平分账”，把每个特征对预测的功劳算得明明白白；后者擅长“全程记录”，从一盆清水开始记录每一点风味的来源。有了它们，黑箱大厨终于愿意开口了。

多组学数据基础

要做出一碗诊断汤，食材分四大家族。“传家菜谱”写的是基因组——DNA 上每个位点的变异；“采购清单”是转录组——哪些基因正在被表达、表达量多少；“切好的半成品”是蛋白组——真实发挥作用的蛋白质丰度；而“最后调味”的代谢组记录小分子代谢物浓度，是细胞状态的快照。

这四类数据合称“多组学数据”。它们分别从 DNA、RNA、蛋白质和代谢物四个分子层次刻画一个人的生物学状态，信号互补：基因组突变不一定立刻影响表型，转录组表达的升高未必导致蛋白升高，代谢物则最接近真实的生理状态。将四者综合起来，才能还原疾病发生的完整图景。

但多组学数据有个共同的痛点——高维小样本：每个样本动辄数千至上万维特征，而队列研究往往只有几十到几百例。同时，同一通路里的基因、蛋白、代谢物彼此高度相关，特征间存在复杂的非线性交互。这使模型容易过拟合，也让“哪个特征真正起作用”变得格外难以回答——正如食材太多且相互串味时，很难说是哪一味主宰了汤的鲜香。

食材类别多、相互影响大，黑箱大厨却能从中找到规律——正因原料如此复杂，我们才更需要 SHAP 与 IG 这样可靠的“账房先生”和“记录员”来还原真相。

SHAP原理

几个朋友聚餐分账：有人点了龙虾，有人只喝了汤，还有人带了好酒。怎么分摊才公平？Shapley 值给出的答案是：把每一种“合作组合”都试一遍——先让所有人在各种小团体中分别合作，再计算“某个人加入某个团体”带来的边际收益，最后对所有可能顺序取平均。这就是博弈论中的“公平分账”。

SHAP（SHapley Additive exPlanations）正是把特征当作“聚餐的客人”，把模型输出当作“总账单”。每个特征对预测的贡献，就是它被加入任意特征子集后带来的平均边际变化。这样一来，功劳与责任都被公平分配到了每个特征头上。

对样本 $x$，第 $i$ 个特征的 SHAP 值定义为所有子集 $S$ 上的加权边际贡献之和：

因此，SHAP 不是简单地“看谁起的作用大”，而是把每种合作方式的贡献都算一遍再平均——正如分账时既要考虑“我一个人吃”，也要考虑“和大家一起吃”的各种情景，才能让每个人都心服口服。

SHAP应用

分账明细一旦打印出来，顾客立刻能看出谁是这锅汤的“主角”：基因 X 像主料牛肉，蛋白 Y 像点睛的胡椒，代谢物 Z 则是提鲜的高汤。SHAP 的价值正是把这样一份“账单明细”交到研究者手中。

把每个样本的 SHAP 值汇总，我们能得到三种最常用的解释视图。其一，全局特征重要性柱状图——对所有样本的 SHAP 绝对值取平均，反映特征的整体影响力；其二，单样本力图（force plot）——展示某个具体样本里每个特征如何把预测从基线推高或压低；其三，SHAP 依赖图——横轴是特征取值，纵轴是其 SHAP 值，揭示特征与预测之间的非线性关系。

在多组学场景中，SHAP 的用途早已不限于“看看哪个基因重要”。它可以做模型诊断：如果“测序批次”或“样本采集中心”这类技术协变量的 SHAP 重要性异常高，说明模型学到了批次伪影而非生物学信号。它还可以做跨组学验证：当转录组和蛋白组同时指向同一通路时，研究者对该靶点的信心会大幅提升，后续湿实验验证的成功率也更高。

一份详尽的账单，既让顾客放心消费，也能让大厨发现自己可能放错了盐——SHAP 之于 AI 诊断系统同理：既是信任凭证，也是质检报告。

IG原理

另一种弄清楚汤味来源的思路不同：美食记者从一碗清水开始，要求大厨每次只加一种调料并记录汤的风味变化。从第一次加水到最后出锅，全程录像，最后把每一步的“风味变化率”乘以“加料量”累加起来，就得到每种调料的贡献。

Integrated Gradients（IG）把这条思路数学化：选择一条从基线 $x'$ 到当前输入 $x$ 的直线路径，沿途计算模型输出的梯度（风味变化率），然后对路径做积分（全程累加）。

IG 相当于给模型装了一台“烹饪过程记录仪”：它忠实记录从“无信息状态”到“当前样本”的全过程，每一步梯度变化都不遗漏，最终把功劳合理地分配给每位参与烹饪的食材。

IG实践要点

记录员的工作看似简单，细节却决定成败——从什么时候开始记录？每隔多久记一次？记录仪的分辨率够不够？IG 的实践要点同样有三。

其一，基线的选择至关重要。对图像常用全零黑图作为“无信息”基线，但对组学数据，全零往往远离真实数据分布（表达量怎么可能全是 0？），通常取训练集各特征的均值向量或一组参考样本的均值。其二，积分需要数值近似。常用 Riemann 求和或 Gauss-Legendre 积分，步长越大近似越准但计算越贵。其三，IG 满足两条美好公理——敏感性（Sensitivity：变化的特征必获归因）与完整性（Completeness：所有归因之和精确等于模型输出相对基线的差值）。

与 SHAP 相比，IG 只需要沿一条直线路径算梯度，因此特别适合深度学习模型：一次反向传播就能拿到全部特征梯度。SHAP 在树模型上有 TreeSHAP 精确解，在深度模型上则通常依赖采样近似。两者并非竞争关系——工程中常同时计算、互相印证：如果 SHAP 说基因 A 最重要，而 IG 却说基因 A 几乎无贡献，就该警惕特征相关性或路径选择带来的偏差。

好的记录员未必与账房先生算出完全一样的数字，但两人若对“谁是主厨的得意食材”给出截然不同的答案，那就值得重新审视这锅汤的烹调过程了。

多组学实战

四种食材全部到位，黑箱大厨开始大显身手——他将基因、转录、蛋白、代谢的信息汇入一个多模态模型，像一位融合各路菜系的烹饪大师。这就是多组学整合模型的日常：输入多种组学特征，输出疾病风险、药效响应等预测。

多组学整合模型（如 MCAT、Pathformer 等 Transformer/图神经网络架构）能同时接收多类组学输入，但模型越复杂，解释越困难。因此需要一套标准解释流程：训练模型 → 用 SHAP/IG 做特征归因 → 按组学模态聚合归因 → 跨组学对照验证 → 锁定候选生物标志物。

层次化解释是实战关键：先在组学层面看“哪类食材决定味道”——比如代谢组贡献占比显著高于基因组；再下钻到具体特征，看到某个代谢物与某个基因表达的交互项贡献异常。真实案例中，研究者曾用 SHAP 发现某耐药模型的“转录本高表达”与“对应蛋白低丰度”同时贡献最多，提示翻译后调控机制值得深挖，这是一般单组学分析难以发现的线索。

一锅融合汤完成后，用 SHAP“拆账”、用 IG“回放”，相当于把大厨的秘方反向工程成一份清晰食谱——每个组学的贡献一目了然，也为后续实验验证指明了方向。

局限与展望

账房先生和记录员也并非万能——遇到记不清的账、被替代的食材、或者根本没人尝过的怪味汤，他们的结论也可能打折扣。SHAP 与 IG 的局限主要有四。

计算上，精确 SHAP 需枚举所有特征子集，指数级开销；IG 的数值积分也有近似误差。稳定性上，高度相关的特征之间归因可能剧烈波动——“分给谁的功劳”对微小扰动很敏感。语义上，归因描述的是相关性而非因果性，不能因为 SHAP 值高就断言该基因“导致”疾病。边界上，当输入落在训练分布之外时，插值路径会穿越模型从未见过的区域，梯度信息失真。

研究前沿正在这些方向上突破：因果可解释性——用结构因果模型替代纯相关性归因；反事实解释——追问“哪个特征改成多少就能翻转预测”；以及大模型时代的可解释对齐——让多模态医学大模型在生成解读时自带来源引用。可以预见，可解释性将从“事后追问”走向“事前设计”。

就像每一位大厨最终都要从“秘方不授”走向“开放厨房”，AI 医学应用也正沿着这条路径进化。SHAP 与 IG 是这条路上的重要里程碑，而更公平、更稳健、更因果的解释工具，正被一代代研究者端上餐桌。

AI 应用场景

Python 演示

import numpy as npfrom math import factorial  def model(x):    """模拟多组学模型: 线性主效应 + 基因-代谢物交互效应"""    return 1.2 * x[0] - 0.8 * x[1] + 0.5 * x[0] * x[2] + 0.3 * x[2]  def brute_force_shap(model, x, baseline=0.0):    """暴力枚举所有特征子集, 计算精确 Shapley 值"""    n = len(x)    phi = np.zeros(n)    for i in range(n):        for mask in range(1 << n):            if (mask >> i) & 1:                continue            S = [j for j in range(n) if (mask >> j) & 1]            v_with = model([x[j] if j in S + [i] else baseline for j in range(n)])            v_without = model([x[j] if j in S else baseline for j in range(n)])            weight = factorial(len(S)) * factorial(n - len(S) - 1) / factorial(n)            phi[i] += weight * (v_with - v_without)    return phi  def integrated_gradients(model, x, baseline=0.0, steps=50):    """从基线线性插值到输入, 沿路径数值积分梯度"""    n = len(x)    grad_sum = np.zeros(n)    eps = 1e-4    for alpha in np.linspace(0, 1, steps):        interp = baseline + alpha * (x - baseline)        for i in range(n):            xp = interp.copy()            xm = interp.copy()            xp[i] += eps            xm[i] -= eps            grad_sum[i] += (model(xp) - model(xm)) / (2 * eps)    return (x - baseline) * grad_sum / steps  if __name__ == "__main__":    # 模拟三个组学特征: 基因表达, 蛋白丰度, 代谢物浓度    x = np.array([1.5, 0.7, 1.2])    print("SHAP 归因:", np.round(brute_force_shap(model, x), 4))    print("IG 归因  :", np.round(integrated_gradients(model, x), 4))

1. def model(x):模拟含交互项的组学预测模型，输入基因、蛋白、代谢物三类特征
2. for mask in range(1 << n):用二进制掩码枚举所有特征子集，对应 Shapley 值的排列组合
3. weight = factorial(len(S)) * factorial(n - len(S) - 1) / factorial(n)计算该子集作为排列的权重系数
4. v_with = model([x[j] if j in S + [i] else baseline for j in range(n)])把目标特征放入子集，其余特征取基线，得到“加人后的账单”
5. for alpha in np.linspace(0, 1, steps):沿基线到输入的直线路径均匀取点
6. grad_sum[i] += (model(xp) - model(xm)) / (2 * eps)中心差分近似梯度，模拟“该特征变化一丁点带来的风味变化率”
7. return (x - baseline) * grad_sum / steps用 IG 完整性公式合成最终归因

常见误区

面试题