ESMM：全空间多任务CVR建模

可视化演示

展示ESMM模型的核心架构：共享Embedding层驱动CTR/CVR双塔，通过pCTR×pCVR实现全空间CTCVR预估，解决样本选择偏差问题。

转化预估的困境：样本选择偏差与数据稀疏

美食街的经理发现了一个残酷的事实：他在店里观察“进店顾客的购买行为”，用这些数据训练的模型，却要站在大街上预测“每一位路过的人进店后会不会买”。那些愿意进店的人，本来就是被招牌、香味吸引过来的潜在顾客，他们和街上面无表情匆匆走过的路人有着系统性的差异。模型从没见过“不感兴趣的人”长什么样，却要判断“不感兴趣的人”会不会买——这显然是在逼它瞎猜。

在推荐系统中，这个故事每天都在上演。一个用户看到商品卡片（曝光），点击进入详情页（点击），最后下单付款（转化）。传统 CVR 模型把“点击样本”当作训练集：只有那些点击了商品的人，才进入样本池。然而线上推断时，模型要对每一个曝光样本输出预估转化率。训练时的样本来自 点击空间，预测时的样本来自 曝光空间，两个空间的人群分布天然不同，模型学到的规律自然容易失真。

这种错位的本质是什么？点击的人群偏好高活跃、强意图的特征，而曝光人群里混杂了大量低意图用户。除此之外，转化样本本身就极其稀少：一万个曝光里可能只有几十个点击、几个转化。稀少的正样本让模型难以收敛，这就是与样本选择偏差并称“两大顽疾”的数据稀疏性问题。二者叠加，独立训练的 CVR 模型常常在离线指标上虚高、在线上效果上缩水。

回到美食街：只盯着进店顾客记账，永远看不懂整条街的生意。要破解这个困境，经理必须换一种记账方式——这正是全空间建模的出发点。

全空间建模思路：从点击空间到曝光空间

经理决定做一次彻底的改革：把账本从“进店顾客”扩展到“所有路过的顾客”。可新的麻烦立刻出现了——一个没有进店的人，你永远无法知道他在店里会不会掏钱。他可能今天只是赶时间没进来，但他其实是这家店的忠实买家；他也可能压根看不上这家店。这个“潜在购买”标签，在统计上根本观测不到。

在数学上，这种“观测遮蔽”非常清晰。设 $y$ 表示用户是否点击，$z$ 表示用户是否转化（购买），那么模型真正能观测到的转化信号是 $y \cdot z$：只有当 $y=1$ 时，$z$ 才有机会被记录；当 $y=0$ 时，$y \cdot z$ 永远等于 0，但我们不知道背后的 $z$ 到底是 0 还是 1。这就是缺失标签问题（Missing Not At Random, MNAR）——标签缺失本身就和用户行为相关。

明白了这个障碍，思路反而清晰了：既然 $z$ 在全空间上不可观测，那不如换个目标。在全部曝光样本上，有两个量是完全可观测的：一是用户会不会点击（$y$），二是用户会不会点击且转化（$y \cdot z$）。如果能通过这两个量把 CVR 反推出来，就能绕开标签遮蔽的陷阱。ESMM 正是沿着这条“借道可观测概率”的思路设计出来的。

经理终于明白：与其纠结“没进店的人会不会买”，不如把“进店的人里有多少真买了”转化成“路过的人里有多少进店且买了”——这个数，站在大街上就能数得清。

ESMM双塔架构：一本共享的顾客档案

经理给团队分了两个小组：A 组负责预测“路人进店的概率”，B 组负责预测“进店顾客购买的概率”。两个小组没有各干各的，而是共用同一本“顾客偏好档案”——每位顾客的兴趣、消费能力、历史偏好都浓缩在这本档案里。A 组从档案里看“是否容易被吸引进门”，B 组从档案里看“进门后是否愿意掏钱”。档案是共用的，但各自得出的判断不同。

这本“顾客档案”就是 ESMM 中的共享 Embedding 层。模型先用一个 Embedding 网络把高维稀疏的用户特征、商品特征压缩成稠密向量 $e(\mathbf{x})$，然后兵分两路：CTR 塔接收 $e(\mathbf{x})$ 输出点击率 $\hat{p}_{CTR}$，CVR 塔接收 $e(\mathbf{x})$ 输出点击后的转化率 $\hat{p}_{CVR}$。两个塔都是多层感知机，最后一层接 sigmoid 函数把输出压到 0-1 之间作为概率。

关键的设计细节在于：CVR 塔没有独立的转化标签作为直接监督。它的“老师”不是真实转化标签 $z$，而是下一节要讲的乘积约束——CTR 塔的输出乘上 CVR 塔的输出，去逼近真实的全空间标签。这种“间接监督”让 CVR 塔在训练时始终与 CTR 塔协同进化。同时，CTR 任务样本量远大于 CVR，共享 Embedding 让 CVR 塔白拿到了 CTR 任务学到的丰富特征表示，极大缓解了数据稀疏。

B 组没有自己的“购买小票”作为直接功课，只能靠 A 组的进门率和自己判断相乘后与店里的实际流水对账——这套“对账机制”，正是 ESMM 的数学灵魂。

CTCVR概率乘法：打开全空间之门的钥匙

老板听说了经理的困境，一句话点醒了他：“进门买东西的概率，不就是'进门概率'乘以'进门后掏钱概率'吗？你与其在店里数'进店顾客谁买'，不如站在大街上数'谁进店且买了'——这个数当场就能数出来！”经理恍然大悟：虽然“进店后购买”在没进店的人身上不可观测，但“进店且购买”在所有人身上都是可观测的——因为只要真的发生了购买，系统一定会记录。

在曝光空间上，ESMM 定义了三个概率：点击率 $\mathrm{pCTR}(\mathbf{x}) = P(y=1 \mid \mathbf{x})$，点击后转化率 $\mathrm{pCVR}(\mathbf{x}) = P(z=1 \mid y=1, \mathbf{x})$，以及点击且转化率 $\mathrm{pCTCVR}(\mathbf{x}) = P(y=1, z=1 \mid \mathbf{x})$。根据条件概率的链式法则，三者存在恒等式：$\mathrm{pCTCVR} = \mathrm{pCTR} \times \mathrm{pCVR}$。这个等式不需要任何独立性假设——只要“转化必然发生在点击之后”这一事实成立，它就如 1+1=2 一样可靠。

这个等式之所以关键，是因为它把“不可观测的 $\mathrm{pCVR}$”变成了“两个可观测量的比值”：$\mathrm{pCVR} = \mathrm{pCTCVR} \div \mathrm{pCTR}$。在全部曝光样本上，CTR 的标签是 $y$，CTCVR 的标签是 $y \cdot z$，两者都在系统日志里躺着，随时可以拿来训练。既然训练时监督的是乘积 $\hat{p}_{CTR} \times \hat{p}_{CVR}$ 与真实标签的一致性，CVR 塔就被“间接地”在全空间上训练了——这就是全空间建模的数学根基。

有了这把钥匙，经理终于可以理直气壮地站在大街上记账了。接下来要解决的，是怎么让模型“同时看好两本账”。

联合损失训练：双塔之间的对账机制

新方案落地后，小组的任务变成每天对账：A 组负责对“进门率”这本账，B 组没有独立的账可对，但老板定了规矩——每天的销售流水（实际点击且转化的人数）必须同时等于 A 组的进门率乘以 B 组的转化率。对不上账，两个组都要找原因：是 A 组把进门率估高了？还是 B 组把掏钱概率估偏了？这种“互相牵制”的机制，保证了任何一本账都不会离谱。

ESMM 的训练目标正是这样设计的。总损失由两项组成：第一项 $L_{CTR}$ 是 CTR 塔的交叉熵损失，拿点击标签 $y$ 与 $\hat{p}_{CTR}$ 比较；第二项 $L_{CTCVR}$ 是乘积塔的交叉熵损失，拿组合标签 $y \cdot z$ 与 $\hat{p}_{CTR} \times \hat{p}_{CVR}$ 比较。总损失是这两项之和，反向传播时梯度同时流向 CTR 塔、CVR 塔和共享 Embedding 层。

这个设计妙在何处？首先，所有曝光样本（包括未点击样本）都会进入 $L_{CTCVR}$ 的计算：未点击样本的标签 $y \cdot z = 0$，它会推动 $\hat{p}_{CTR} \times \hat{p}_{CVR}$ 向 0 靠拢，由于 $\hat{p}_{CTR}$ 本身已经很小，乘积自然趋近于 0，CVR 塔收到的正是“这类人的转化率不该高”的信号。其次，CTR 损失的梯度通过共享 Embedding 增强了底层特征，CVR 塔得以享受数据量红利。这就是“两本账一起查”的数学实现。

每天对账，越对越准。但光有机制还不够，这套机制到底比老办法强在哪？还需要一场面对面的较量。

对比独立CVR：全空间为何更准

美食街的另一家店，店主还在用老办法：只在进店顾客身上收集数据，训练“进店后购买预测器”。两位店主在街口打赌，看谁的模型能更准地判断路过的行人“进店后会不会买”。老店主发现，自己的模型在店里对老顾客百试百灵，可一到街上就疯狂打脸——因为街上的人，和进店的人根本不像。而新店主的模型，每天看的都是整条街的数据，自然更懂路人的心思。

独立 CVR 模型与 ESMM 的差距，本质上就是训练空间与部署空间的错位。独立 CVR 的训练数据是 $\mathcal{D}_{click}$（点击样本），只有曝光样本 $\mathcal{D}_{expo}$ 中很小的一部分；虽然 $\mathcal{D}_{click} \subset \mathcal{D}_{expo}$，但两者的特征分布差异巨大。ESMM 则从头到尾在 $\mathcal{D}_{expo}$ 上训练——CTR 损失和 CTCVR 损失覆盖全部曝光样本，训练分布与线上部署分布完全一致。

在稀疏性问题上，ESMM 同样占优。CVR 任务的正样本只是点击样本中转化的一小撮，但通过共享 Embedding，CVR 塔获得了 CTR 任务海量样本训练出的特征表示；同时，CTCVR 损失让所有未点击样本也间接参与了 CVR 塔的训练，用“0 转化”的联合信号约束了 CVR 塔的预测边界。在淘宝、阿里妈妈等工业场景中，ESMM 相比独立 CVR 模型的离线 AUC 通常提升 1~2 个百分点，线上转化率与 GMV 也有明显正向收益——这就是全空间建模的实证力量。

这场比试的结局早已注定：模型不是练得越久越准，而是见过的世界越接近真实世界才越准。全空间训练，就是让模型在真实世界里长大。

AI 应用场景

Python 演示

"""ESMM 简化实现：全空间多任务 CVR 建模演示"""import torchimport torch.nn as nn torch.manual_seed(42) N = 20000          # 曝光样本数FEAT_DIM = 12BATCH = 512EPOCHS = 15 # 1. 模拟曝光空间的点击/转化数据X = torch.randn(N, FEAT_DIM)w_ctr = torch.randn(FEAT_DIM) * 0.4w_cvr = torch.randn(FEAT_DIM) * 0.4p_ctr = torch.sigmoid(X @ w_ctr - 0.5)p_cvr_given_click = torch.sigmoid(X @ w_cvr - 0.3)y = torch.bernoulli(p_ctr)                     # 点击标签z = torch.bernoulli(p_cvr_given_click) * y    # 转化标签(仅点击后可观测)  class ESMM(nn.Module):    """共享Embedding + CTR/CVR 双塔 + 乘法输出"""     def __init__(self, feat_dim, emb_dim=8):        super().__init__()        self.shared_emb = nn.Sequential(            nn.Linear(feat_dim, emb_dim), nn.ReLU()        )        self.ctr_tower = nn.Sequential(            nn.Linear(emb_dim, emb_dim), nn.ReLU(), nn.Linear(emb_dim, 1)        )        self.cvr_tower = nn.Sequential(            nn.Linear(emb_dim, emb_dim), nn.ReLU(), nn.Linear(emb_dim, 1)        )     def forward(self, x):        e = self.shared_emb(x)        p_ctr = torch.sigmoid(self.ctr_tower(e))        p_cvr = torch.sigmoid(self.cvr_tower(e))        return p_ctr, p_cvr, p_ctr * p_cvr    # pCTCVR = pCTR * pCVR  model = ESMM(FEAT_DIM)opt = torch.optim.Adam(model.parameters(), lr=0.01)bce = nn.BCELoss(reduction="mean") for epoch in range(EPOCHS):    perm = torch.randperm(N)    total_loss = 0.0    for i in range(0, N, BATCH):        idx = perm[i: i + BATCH]        xb, yb, zb = X[idx], y[idx].float(), z[idx].float()        yb = yb.view(-1, 1)        zb = zb.view(-1, 1)        p_ctr, p_cvr, p_ctcvr = model(xb)        loss_ctr = bce(p_ctr, yb)                  # 点击损失        loss_ctcvr = bce(p_ctcvr, yb * zb)         # 点击且转化损失        loss = loss_ctr + loss_ctcvr        opt.zero_grad()        loss.backward()        opt.step()        total_loss += loss.item() * len(idx)     with torch.no_grad():        p_ctr_all, p_cvr_all, _ = model(X)        acc_ctr = ((p_ctr_all > 0.5).float() == y).float().mean().item()        mae_cvr = (p_cvr_all[:, 0] - p_cvr_given_click).abs().mean().item()    print(f"epoch {epoch+1:2d} | loss {total_loss/N:.4f} | "          f"acc_ctr {acc_ctr:.3f} | mae_cvr {mae_cvr:.4f}")

1. z = torch.bernoulli(p_cvr_given_click) * y模拟真实世界“转化只在点击后可观测”，未点击样本强制记 0。
2. self.shared_emb = nn.Sequential(nn.Linear(feat_dim, emb_dim), nn.ReLU())共享 Embedding 底座，CTR 和 CVR 塔共用同一个特征向量。
3. return p_ctr, p_cvr, p_ctr * p_cvr乘法输出 CTCVR，这是 CVR 塔获得监督信号的唯一通道。
4. loss_ctr = bce(p_ctr, yb)点击塔的交叉熵损失，样本量大、信号充足。
5. loss_ctcvr = bce(p_ctcvr, yb * zb)联合乘积损失，让所有曝光样本都参与 CVR 塔训练。
6. loss = loss_ctr + loss_ctcvr两路损失求和，反向传播时梯度同时流向两个塔。
7. loss.backward()梯度通过乘积链路传导至 CVR 塔，实现“间接监督”。
8. mae_cvr = (p_cvr_all[:, 0] - p_cvr_given_click).abs().mean().item()用不可观测的真实转化概率评估 CVR 塔学到了多少。

常见误区

面试题