多任务学习MMOE与PLE结构

可视化演示

动态演示多任务学习MMOE与PLE结的核心机制，通过采集/分析/决策/反馈四种模式展示关键概念与交互流程。

多任务学习概述

医院里的“全科门诊”只有一位医生、一张标准检查单。患者来了，量血压、测体温、问几个通用问题，然后这位医生根据仅有的信息，硬着头皮给出所有科室的诊断建议。这就是最早的多任务学习方案——Shared-Bottom结构：底层共享一张“检查单”（参数），顶部为每个任务各自接一个“诊断台”（任务塔）。结构简单、参数节省，是所有多任务模型的起点。

多任务学习（Multi-Task Learning, MTL）的核心想法是：让多个相关任务一起训练，共享底层的特征表示，借助任务之间的相关性互相“借力”。就像脊柱问题既能引发腰痛也能引发腿麻，共享一份核磁共振报告，两个症状的诊断都能受益。放在推荐场景里，CTR和CVR共享用户的浏览行为序列、物品属性等底层特征，点击行为中学到的“兴趣表达”也能帮助转化率判断。

Shared-Bottom的数学描述十分简洁：所有任务共用一个底层网络 $f(x)$，每个任务 $k$ 再配备一个自己的映射 $h^k$。它的问题在于“一刀切”——当任务差异较大时，共享层学到的表示对谁都不够友好。CTR任务偏好“抓眼球”的特征，CVR任务偏好“真金白银购买意愿”的特征，硬塞进同一个底层，就会出现著名的“跷跷板效应”：一个任务指标上升，另一个任务指标必然下降，像跷跷板两端互相压制。

Shared-Bottom像极了那个“一位医生撑全科”的门诊：便宜、高效，但当患者同时需要骨科和神经内科的深度检查时，一张单薄的检查单根本不够用。于是，医院决定请专家来会诊——MMOE 就这样登场了。

MMOE核心原理

医院把会诊升级为“专家团”：请来心内科、骨科、神经内科、康复科四位专家，每位专家独立翻阅病历，提出自己的初步判断。但最终意见谁说了算？不能简单取平均。于是每个科室各派一名会诊主持人，主持人根据患者当下的具体症状，给四位专家的意见分配不同的权重——膝盖疼得厉害时，骨科的嗓门就大；失眠严重时，神经内科的分量就重。这套“多位专家 + 按需加权”的机制，正是MMOE的骨架。

MMOE（Multi-gate Mixture-of-Experts，多门控专家混合）由两部分构成：专家网络与门控网络。专家网络是若干个相互独立的全连接网络，每个网络相当于一位专家，从原始特征中提取一种“视角”的表示——有的专家擅长捕捉用户短期兴趣，有的擅长捕捉物品属性关联，各有分工。门控网络则相当于会诊主持人，它接收同样的输入特征，输出一组归一化的权重，决定当前样本下每个专家的话语权。

每个任务 $k$ 都拥有自己独立的门控 $g^k$，因此不同任务可以“偏心”不同的专家。CTR任务可能更信任擅长“兴趣挖掘”的专家，CVR任务则更信任擅长“购买意图”的专家。最终，任务的输入是所有专家输出的加权和，数学表达如下：

MMOE聪明在“分而治之”：专家各自深耕一种视角，门控按需取用。相比Shared-Bottom，当任务差异大时，不同任务可以通过门控选择不同的专家组合，互不干扰。但会诊中仍少了一个角色——那位负责基础检查的全科医生。PLE正是看准了这个盲区。

PLE结构创新

一座成熟的会诊中心应该有明确的分工。患者进门后，先由全科医生做全套基础检查（血常规、尿常规、影像初筛），形成一份“基础病历”；这份病历同步发给所有专科医生参考。随后，骨科医生结合基础病历做膝关节专项检查，神经内科结合基础病历做睡眠监测——既充分共享“公共信息”，又保留各科室的“独门绝活”。这就是PLE的设计哲学：渐进式分层提取。

PLE（Progressive Layered Extraction，渐进式分层提取）把MMOE中的专家划分为两类：共享专家和任务特定专家。共享专家相当于全科医生，从原始特征中提取所有任务通用的知识；任务特定专家相当于专科医生，只提取与本任务强相关的信息。在结构上，PLE使用多层堆叠，每一层都同时包含两类专家，下层输出作为上层的输入，信息逐层精炼。

以任务 $k$ 为例，PLE的每一层先分别对共享专家和特定专家做门控加权，然后将两类结果相加，送入任务塔。共享专家部分保证“公共病历”不浪费，特定专家部分保证“专科判断”不失焦：

PLE在MMOE基础上做的是“分层治理”：全科医生兜底，专科医生深挖。在腾讯视频、微信看一看等大规模推荐场景中，PLE被验证能显著缓解跷跷板效应，成为多任务学习的标杆结构。结构到位了，接下来还要解决“怎么训练”的问题。

模型训练要点

会诊中心有了架构，还需要一套管理规范：各科室意见如何汇总、谁的话更有分量、复查流程怎么安排。多任务模型的训练同样是一场精细的“流程管理”——不同任务的损失怎么合并、权重怎么分配、训练节奏怎么控制，直接决定这个“会诊中心”是高效协作还是吵成一团。

多任务学习的损失函数绝不是简单相加，而是每个任务损失的加权求和。假设共有 $K$ 个任务，每个任务有各自的损失 $L_k$（如CTR用交叉熵、CVR用交叉熵），总损失如下：

经验上，样本稀疏的任务需要更大的权重，否则它的话语权会被样本量大的任务淹没。比如CVR样本通常远少于CTR样本，就需要给CVR任务设置更高的 $w_k$，让模型“偏心”地照顾它。

除了损失权重，常见的训练策略还包括：一是梯度调和——当两个任务的梯度方向夹角为钝角（即“打架”）时，通过梯度投影消解冲突；二是课程学习——先训练共享专家，让“全科医生”先学会基础检查，再训练任务特定专家，让“专科医生”在稳定地基上精修；三是动态权重——训练过程中根据各任务loss下降速度在线调整 $w_k$，避免某个任务过早收敛而另一个还在挣扎。

会诊中心刚成立时，科室之间难免手忙脚乱，此时流程管理就是生命线：谁说话声音大（任务权重）、谁先发言（课程学习）、意见冲突时找谁调解（梯度调和）。训练策略理顺了，多任务模型才真正开始“会诊”，而不是“吵架”。训练完成后，这个会诊中心被派往哪里？答案是推荐系统的第一线。

推荐系统应用

患者走进会诊中心，先挂号、再分诊、最后进对应诊疗室。推荐系统也是一条流水线：先判断“用户会不会点”（CTR），再判断“点了之后会不会买”（CVR）。两个任务天生适合共享“病历”——用户画像、物品属性、上下文特征，都是同一份输入。MMOE/PLE在这里扮演的角色，就是那座高效运作的会诊中心。

传统的推荐做法是分别训练CTR模型和CVR模型，如同两个各自为政的科室：CTR模型精于捕捉“吸引力”，CVR模型精于捕捉“购买力”，但互相不知道对方学到了什么，造成特征信息的大量浪费。更重要的是，CVR任务的训练样本只来源于“点击后”的用户，存在严重的样本选择偏差。

用MMOE/PLE做CTR与CVR联合建模，是工业界的标准打法：底部是共享的embedding特征层，中间是几位“专家”MLP，再往上分成两个任务塔——一个输出点击概率 $\hat{p}_{ctr}$，一个输出转化概率 $\hat{p}_{cvr}$。两个门控各管各的任务，按需调配专家权重。最终线上排序时，把两个概率加权合成一个综合分数：

其中 $\alpha$ 和 $\beta$ 是业务权重，由运营目标决定——如果当前阶段更看重成交，就调高 $\beta$。在更复杂的场景中，还可以加入“GMV预估”“停留时长预估”等多个任务，形成多目标排序体系。

分诊护士（排序模块）根据患者当下的核心诉求（点击兴趣 vs 购买意图），调配各科室意见，给出一个综合方案。MMOE/PLE已在抖音、淘宝、腾讯广告等大规模产品中落地，普遍带来GMV与用户体验的双重提升。不过，把模型从论文搬进生产环境，还有一段崎岖的山路要爬。

工程实践挑战

会诊中心再先进，也得靠挂号系统、病历系统、检查设备顺畅协作才能运转。MMOE/PLE从论文走向工程落地，同样要翻越几座大山：数据稀疏、模型规模、在线延迟、调参玄学。任何一个环节掉链子，“会诊中心”都可能从能力满格变成纸上谈兵。

第一座大山是数据稀疏。CVR任务的训练样本往往只有CTR任务的十分之一甚至百分之一。共享专家很容易被CTR任务“带偏”，把CVR任务的需求晾在一边。常见的解法包括：对小样本任务过采样、负样本加权，或引入ESMM（Entire Space Multi-task Model）思想，把“曝光→点击→转化”的全体样本空间纳入建模，用多任务架构缓解稀疏问题。

第二座大山是模型规模与在线延迟。MMOE动辄4-8个专家，PLE的专家更多，参数量和计算量水涨船高。线上推理时，如果把每个专家和门控都完整算一遍，延迟压力很大。工程上的通用做法是门控TopK稀疏化——既然门控权重本身就接近“偏科”，那不如只取出权重最大的前 $t$ 个专家参与计算，其余直接跳过：

配合专家网络的hidden size压缩（如从256降到64）、量化剪枝等手段，可以在几乎不掉点的情况下把推理成本砍掉一大半。

第三座大山是调参经验。门控网络初始化的偏置不宜过大，否则训练一开始就“独宠”某一位专家，其他专家形同虚设；共享专家与特定专家的初始化最好有所差异，避免两者功能趋同；任务权重的搜索一般从 $1:1$ 起步，再向样本稀疏的任务倾斜，每次小步调整、观察线上指标。

一家优秀的医院从来不是靠某位神医单打独斗，而是靠整个信息系统的精密协作。MMOE/PLE落地同样如此——对数据稀疏的理解、对性能开销的取舍、对参数的耐心调试，这些工程能力，恰恰是一名算法工程师最值钱的核心竞争力。

AI 应用场景

Python 演示

import numpy as np  class MMOE:    """简化版 MMOE：专家网络 + 每任务独立门控 + 任务塔"""     def __init__(self, input_dim=8, n_experts=4, hidden_dim=16,                 n_tasks=2, n_classes=2, seed=42):        rng = np.random.default_rng(seed)        self.n_experts = n_experts        self.n_tasks = n_tasks        # 专家网络：input_dim -> hidden_dim，每个专家一套参数        self.expert_W = [rng.normal(0, 0.1, (input_dim, hidden_dim))                         for _ in range(n_experts)]        self.expert_b = [rng.normal(0, 0.1, hidden_dim)                         for _ in range(n_experts)]        # 门控网络：每个任务独立一套参数，input_dim -> n_experts        self.gate_W = [rng.normal(0, 0.1, (input_dim, n_experts))                       for _ in range(n_tasks)]        self.gate_b = [rng.normal(0, 0.1, n_experts)                       for _ in range(n_tasks)]        # 任务塔：hidden_dim -> n_classes，每个任务一个        self.task_W = [rng.normal(0, 0.1, (hidden_dim, n_classes))                       for _ in range(n_tasks)]        self.task_b = [rng.normal(0, 0.1, n_classes)                       for _ in range(n_tasks)]     def forward(self, x):        """返回每个任务的 logits 以及任务 0 的门控权重（便于观察）"""        expert_outs = [np.tanh(x @ self.expert_W[i] + self.expert_b[i])                       for i in range(self.n_experts)]        all_logits = []        g0 = None        for k in range(self.n_tasks):            # 门控打分            gate_logits = x @ self.gate_W[k] + self.gate_b[k]            gate_logits = gate_logits - gate_logits.max(axis=1, keepdims=True)            gate = np.exp(gate_logits) / np.exp(gate_logits).sum(axis=1, keepdims=True)            if k == 0:                g0 = gate[0]            # 专家加权融合            fused = np.zeros_like(expert_outs[0])            for i in range(self.n_experts):                fused += gate[:, i:i+1] * expert_outs[i]            logits = fused @ self.task_W[k] + self.task_b[k]            all_logits.append(logits)        return all_logits, g0     def compute_loss(self, x, y_list):        """多任务交叉熵损失加权求和"""        all_logits, _ = self.forward(x)        total_loss = 0.0        for k in range(self.n_tasks):            exp_logits = np.exp(all_logits[k]                                - all_logits[k].max(axis=1, keepdims=True))            probs = exp_logits / exp_logits.sum(axis=1, keepdims=True)            n = y_list[k].shape[0]            total_loss -= np.mean(np.log(probs[np.arange(n), y_list[k]]))        return total_loss  def main():    rng = np.random.default_rng(0)    n_sample = 128    x = rng.normal(0, 1, (n_sample, 8))    # 任务0：与第2、3个特征正相关的二分类    prob0 = 1.0 / (1.0 + np.exp(-(x[:, 2] + 0.5 * x[:, 3])))    y0 = (rng.random(n_sample) < prob0).astype(int)    # 任务1：与第5、6个特征负相关的二分类，与任务0部分相关    prob1 = 1.0 / (1.0 + np.exp(-(-x[:, 5] + 0.3 * x[:, 2])))    y1 = (rng.random(n_sample) < prob1).astype(int)     model = MMOE(input_dim=8, n_experts=4, hidden_dim=16,                 n_tasks=2, n_classes=2, seed=42)    loss = model.compute_loss(x, [y0, y1])    logits, gate0 = model.forward(x)    pred0 = np.argmax(logits[0], axis=1)    pred1 = np.argmax(logits[1], axis=1)    acc0 = float((pred0 == y0).mean())    acc1 = float((pred1 == y1).mean())     print("多任务总损失: %.4f" % loss)    print("任务0（CTR）预测准确率: %.2f" % acc0)    print("任务1（CVR）预测准确率: %.2f" % acc1)    print("第一个样本的任务0门控权重: %s" %          np.round(gate0, 3))  if __name__ == "__main__":    main()

1. expert_W = [rng.normal(0, 0.1, (input_dim, hidden_dim)) for _ in range(n_experts)]为每位专家初始化一套独立的权重矩阵，专家之间互不共享参数。
2. self.gate_W = [rng.normal(0, 0.1, (input_dim, n_experts)) for _ in range(n_tasks)]每个任务拥有自己独立的门控网络参数，这是“多门控”（Multi-gate）的名称由来。
3. gate_softmax门控打分经 softmax 归一化，确保所有专家权重之和为 1，模拟“主持人分配话语权”。
4. fused = np.zeros_like(expert_outs[0]); for i in range(...): fused += gate[:, i:i+1] * expert_outs[i]对专家输出做加权求和，得到本任务融合后的特征表示。
5. total_loss -= np.mean(np.log(probs[...]))多任务总损失为各任务交叉熵之和，简化版中未加额外任务权重。

常见误区

面试题