全局池化三种方式对比：求和平均与最大池化

可视化演示

对比求和、平均、最大三种全局池化对特征图的处理方式与输出差异

池化任务定位

新学期，校长要评选“优秀班级”。每个班几十个学生，各科成绩密密麻麻，校长没法逐张看成绩单，他需要班主任交一份“班级总评”。这份总评必须把全班的信息浓缩成一段话，最好还能公平对比。图神经网络做图分类时也面临同样的难题：图上几十上百个节点，每个节点都有自己的特征向量，但最终要给整个图输出一个标签——该图的“班级总评”。

在 GNN 中，这一环节叫“全局池化”（global pooling），也叫 readout。它把 N 个节点的特征聚合成一个图级向量 h_G，之后接一个简单的分类器就能输出图标签。由于图本身没有天然的顺序，节点编号怎么打乱都不该影响结果，所以池化必须是“置换不变”的——就像班级评语不会因为学生成绩单的摆放顺序而改变。

整个图分类流程是：GNN 逐层做消息传递（相邻节点互传信息、更新自身特征），接着做全局池化，最后过 MLP 分类器。池化是关键的瓶颈环节，它决定哪些信息能“通关”到最后的分类器。三种最基础的操作是求和、平均、最大，它们的形式化定义如下：

所以“班级总评怎么写”这个问题，本质上就是“选什么样的 f”。接下来三种方案，就是三种写评语的策略。

求和池化原理

班长小明汇报：“我们班总分 3560，全校第一！”校长点点头，但心里嘀咕：你们班 60 人，隔壁班才 25 人，总分高难道不是人多吗？求和池化就是小明的逻辑——把所有学生的成绩直接相加。它不关心人数，也不关心分数分布，只是老实巴交地把所有分数加在一起。

求和池化（sum pooling）对每个特征维度独立累加。如果节点特征 h_v 是一个 D 维向量，那么输出向量的第 d 维等于所有节点第 d 维之和。节点越多，累加值自然越大。它的定义如下：

求和池化有两个重要性质：第一，对图大小极度敏感，节点翻倍时累加值近似翻倍；第二，每个节点的信息都完整保留在累加结果中。DeepSets 定理指出，在一定假设下求和是表达力最强的池化——因为只有它以“总量”的形式保留了完整信息。它最适用的场景是：图的大小或计数本身是重要信号。比如“这个分子里有多少原子参与了某个环”——这种计数信息用求和一目了然。

小明报总分没有错，只是听的人要分清楚：这个数字反映的是“班里人多所以总分高”，还是“每个学生真的都很强”。求和池化就是这样一个直白但不“甩锅”的统计量——信息量最完整，但会被图的大小牵着鼻子走。

平均池化原理

隔壁班班长小红不服气：“我们班人均 92.3，比你们高！”校长笑了——这个数字公平。平均分去掉了人数的干扰，直接反映班级的“平均战斗力”。平均池化做的正是这件事：求和之后，除以节点总数。

平均池化（mean pooling）是求和的归一化版本：分子还是 Σh_v，分母是节点数 |V|。它回答的问题是“每个节点平均携带多少特征强度”。定义如下：

平均池化的优点是尺度不变：两个规模相差 10 倍的图，平均池化结果在同一量级，方便公平对比。缺点是信号稀释：如果 50 个节点里只有 1 个节点在某维度很强（比如 9.9），其余都在 0.1 附近，平均后约等于 0.3，那个强信号被稀释得几乎看不见。它适合图大小与分类语义无关、需要在不同规模间公平比较的任务。

平均分让不同规模的班级可以同台竞技，但也会掩盖“个别尖子生”的光芒——全校 1000 人里只有一个满分，人均分看不出任何惊艳。平均池化适合回答“整体水平如何”，不适合回答“有没有天才”。

最大池化原理

招生办主任老张的汇报材料只有一句话：“我校今年出了一位省状元。” 没人记得平均分排第几，但“省状元”三个字立刻让学校有了辨识度。最大池化就是这种“只报最高分”的策略：每个特征维度，只取所有节点中的最大值。

最大池化（max pooling）对向量的每个维度独立操作，语法上就是“第 d 维的输出 = 所有节点第 d 维特征的最大值”。它构建的图级向量，描述的是“每个特征在图里最极端的表现”：

最大池化擅长检测“是否存在某个模式”：比如分子里有没有一个原子具有超强电负性、点云里有没有一个点代表尖锐突起。它的梯度只在最大值节点上非零，其余节点的梯度是 0——训练时只有“被选中的状元”能收到反馈，其他人原地不动。这种稀疏性在带来专注的同时，也会让部分节点长期得不到更新。

省状元让学校出名，但状元的经验没法代表全校平均水平。最大池化给模型一双“只盯着最亮点”的眼睛，能看清“有没有”，却看不清“普遍如何”。

三者对比分析

同一个班级，三种汇报方式讲了三个版本的故事：总分的版本强调“规模”，平均分的版本强调“水平”，最高分的版本强调“亮点”。它们都是真话，但回答的问题完全不同。模型也是一样，池化的选择决定了它眼中的“图”长什么样。

从三个维度横向比较三种池化：

• 信息保留：求和保留所有节点的完整累加（全景照）；平均保留“人均”比例信息（均匀亮度的 HDR）；最大只保留每维极值（特写镜头）。

• 图大小敏感性：求和结果与节点数 |V| 线性相关；平均在理论上完全不受图大小影响；最大同样与图大小无关。

• 理论表达能力：DeepSets 定理揭示了求和池化特殊的理论地位：

这个定理说明求和在理论上有最强表达能力，但前提是节点特征来自可数空间。在工程实践中，连续特征空间下平均和最大也各有不可替代的价值——它们用损失信息换来了尺度不变性和极值敏感性。

三个版本的故事没有绝对好坏。总分能讲故事但会被人多“推高”，平均分公平但会淹没尖子生，状元吸睛但只有一个人。选哪个，取决于你想让模型相信哪一个版本的“班级叙事”。

任务选择策略

体育老师统计跳远成绩时，三种需求对应三种算法：选校队看“最大”（谁跳最远）；评优秀班级看“平均”（整体素质）；算场地总使用时长看“求和”（总训练量）。同一个数据集，不同任务问不同的问题，就选不同的统计量。

选择池化方式的本质，是明确“任务对图的性质最关心什么”。三种池化对应三类信号：

• 总量信号 → 求和：图越大信号越强的任务。典型场景如分子量相关的物理性质、社交网络总活跃度。图大小本身就是语义的一部分，丢掉它等于丢了关键信息。

• 均值信号 → 平均：图大小与语义无关的比较任务。典型场景如不同规模社区的结构密度对比。用平均池化才能学到“密度”而不是“规模”。

• 极值信号 → 最大：模式存在性检测。典型场景如分子中是否存在危险官能团、点云中是否有尖锐突起。

工程上还有一种常见的兜底方案——把三种池化结果拼接起来，让分类器自己学权重：

拼接策略的代价是维度膨胀和过拟合风险，通常要配合归一化层和 Dropout 使用。如果数据集较小，优先选一种与任务语义最契合的池化，而不是盲目拼接。

体育老师不会同时用三种方式回答同一个问题——他会先想清楚“我要选谁、评什么、算什么”。选池化也一样，先明确任务要哪种信号，再定统计口径。多模态拼接只是兜底方案，不是万能钥匙。

工程实践要点

全校 30 个班同时交成绩，教务处要批量处理。每班人数不一样，成绩单长短不齐，怎么快速算出每个班的总分、平均分和最高分？教务处的做法是：拿一张最大的表格，所有班级对齐，空着的格子填“缺考”（padding），统计时跳过这些缺考标记（mask）。

深度学习训练要求一批（batch）数据形状对齐。一批里有 32 张图，各自节点数从 10 到 500 不等，无法直接堆成规则的矩阵。标准做法是把所有图 pad 到该批最长的图，再用 mask 标记哪些是真实节点、哪些是 padding。带 mask 的平均池化长这样：

不同池化对 padding 的处理方式不同：求和池化只需乘 mask；最大池化则要把 padding 位置填充为负无穷大，这样 max 运算绝不会选中它们。归一化层和 Dropout 能缓解拼接池化时不同分支梯度量级差异过大的问题。做到这一步，三种池化就能干净地嵌入真实训练流程了。

教务处的“缺考标记”让 30 个参差不齐的班级被统一处理，又不影响统计结果。工程里的 mask 就是这张全校统一表格上的“缺考”章——多一步标记，批量处理才稳。

AI 应用场景

Python 演示

import torchimport torch.nn.functional as F  def global_sum_pooling(node_feats, batch):    """求和池化：把每张图的节点特征逐元素相加"""    graph_ids = torch.unique(batch)    pooled = []    for gid in graph_ids:        mask = batch == gid        pooled.append(node_feats[mask].sum(dim=0))    return torch.stack(pooled, dim=0)  def global_mean_pooling(node_feats, batch):    """平均池化：累加后除以该图的有效节点数"""    graph_ids = torch.unique(batch)    pooled = []    for gid in graph_ids:        mask = batch == gid        pooled.append(node_feats[mask].mean(dim=0))    return torch.stack(pooled, dim=0)  def global_max_pooling(node_feats, batch):    """最大池化：每张图每个特征维度取最大值"""    graph_ids = torch.unique(batch)    pooled = []    for gid in graph_ids:        mask = batch == gid        pooled.append(node_feats[mask].max(dim=0).values)    return torch.stack(pooled, dim=0)  def masked_mean_pooling(node_feats, batch, num_graphs):    """带 mask 的平均池化：用 one-hot 矩阵乘法并行聚合"""    n_nodes, dim = node_feats.shape    one_hot = F.one_hot(batch, num_classes=num_graphs).float()    counts = one_hot.sum(dim=0, keepdim=True).transpose(0, 1)    pooled = one_hot.transpose(0, 1) @ node_feats    return pooled / counts.clamp(min=1)  if __name__ == "__main__":    # 两张大图: 图0有3个节点, 图1有2个节点    feats = torch.tensor([        [1.0, 2.0],        [3.0, 4.0],        [5.0, 6.0],        [7.0, 8.0],        [9.0, 10.0],    ])    batch = torch.tensor([0, 0, 0, 1, 1])     print("求和池化:\n", global_sum_pooling(feats, batch))    print("平均池化:\n", global_mean_pooling(feats, batch))    print("最大池化:\n", global_max_pooling(feats, batch))    print("masked平均:\n", masked_mean_pooling(feats, batch, 2))

1. mask = batch == gid布尔索引一步选出当前图的所有节点，这是循环版池化的核心筛选手段。
2. node_feats[mask].sum(dim=0)对选中的节点特征沿第 0 维求和，得到该图的图级向量。
3. node_feats[mask].max(dim=0).values沿第 0 维取最大值，.values 取出最大值本身而非索引。
4. F.one_hot(batch, num_classes=num_graphs)把每个节点的图编号转成 one-hot 向量，天然就是一个可微的 mask 矩阵。
5. one_hot.transpose(0, 1) @ node_feats矩阵乘法一次完成所有图的分组求和，比循环快得多。
6. pooled / counts.clamp(min=1)除以每张图的有效节点数得到平均池化，clamp 防止除零。

常见误区

面试题