DIN深度兴趣网络：为每个候选商品量身定制兴趣画像

可视化演示

模拟DIN深度兴趣网络根据候选物品动态计算用户历史行为注意力权重，展示局部激活单元与兴趣聚合过程。

背景与痛点：一张画像卡应付所有提问

老周的画像卡很努力：他把小王所有购买记录的特征摊开、求和、再除以条数，形成一张「平均脸」。这张脸的特点是「什么都有一点」，但「什么都不突出」。深度推荐模型里也有这张「平均脸」——把用户历史交互过的 N 个商品先映射成稠密向量（可以理解为给每个商品记一组特征数字），再求平均，得到唯一的用户向量 $\mathbf{v}_U$。这个向量对所有候选商品一视同仁。

这种做法的直接问题是「兴趣被稀释」。小王的兴趣是多元的：运动、厨艺、户外都占一席。平均之后，每个兴趣信号都被其他信号互相拉低。推荐跑鞋时，厨具相关的信号成了噪声；推荐炒锅时，运动信号又成了噪声。用户向量与「当前在看什么」完全无关，这在数学上的表达就是简单的平均池化：

老周很勤奋，平均得很认真，但一张画像卡不可能同时服务好「运动小王」和「厨房小王」。这就是 DIN 要解决的第一个问题：固定表示与多样化兴趣之间的矛盾。

DIN核心思想：先看商品再翻记忆

林姐接客的第一步永远是「看一眼顾客手里的东西」。这一眼决定了接下来翻记忆的方式。DIN 的核心理念与之一模一样：用户兴趣表示不应该是固定常数，而应该是「候选物品驱动」的。DIN 由阿里巴巴在 KDD 2018 提出，最初服务于淘宝展示广告的点击率（CTR）预估，其核心是把用户兴趣表示写成历史行为集合与候选物品向量的联合函数。

这里的用户行为被视为一个「无序集合」而不是「有序序列」——DIN 不关心用户先买了跑鞋还是先买了背包，只关心「有哪些行为」。这跟用 LSTM/GRU 建模行为顺序的序列模型有本质区别。形式上可以写成：

对比公式 (1)，这里没有简单地除以 N，而是让每个历史行为都跟 $\mathbf{v}_A$ 交互一次。同样一个小王，看跑鞋时是「运动版小王」，看炒锅时是「厨房版小王」——兴趣画像跟着问题走，而不是永远一张脸。

局部激活单元：林姐的火眼金睛

林姐的眼睛是一台高速扫描仪：视线每扫过一条历史记录，心里就冒出一个「相关分」——跑步服对跑鞋 0.68、运动鞋对跑鞋 0.82、通勤背包对跑鞋 0.35、厨房锅具对跑鞋 0.18。这个打分器在 DIN 里叫「局部激活单元」（Local Activation Unit），本质是一个小型多层感知机（MLP，可以理解为一个会从数据里学规则的小型打分网络）。

它把历史行为向量 $\mathbf{u}_i$ 与候选物品向量 $\mathbf{v}_A$ 拼接起来，再额外塞进两个交互信号：逐元素相乘 $\mathbf{u}_i \odot \mathbf{v}_A$ 捕捉「有多像」，逐元素相减 $\mathbf{u}_i - \mathbf{v}_A$ 捕捉「差多少」。最后经过 sigmoid（一种把任意实数压缩到 0 和 1 之间的函数）输出权重：

为什么叫「局部激活」？因为它不产出全局唯一的权重，而是针对当前候选物品、逐个历史行为地激活，打分网络在所有行为上参数共享，所以行为数量可变也没关系。林姐的火眼金睛不是天生的——店主给她看了成千上万笔成交与未成交的数据，她才学会「什么旧记忆与什么新商品相关」。

注意力聚合：把相关记忆加权合并

打完分之后，林姐不会把五条记忆原封不动全倒给小王，而是「按分混音」：高分的跑步服、运动鞋记忆被放大，低分的锅具、砧板记忆被压低，最后合成一幅「运动版小王」的兴趣画像。这在 DIN 里叫注意力聚合，也叫加权求和池化：把每个历史行为向量乘上它的注意力权重，再全部加起来。

这是一种「软选择」而不是「硬选择」：不是只挑出最相关的那一条行为（那相当于 argmax 池化），而是让所有行为按权重共存，从而保留用户多兴趣的多样性。与平均池化对比，本质差异是「加权」——噪声被低权重压制到几乎不影响结果。不是所有记忆都重要，但重要的记忆在合成画像时都被优先听见。

可解释性价值：说说为什么推荐

小王问林姐：「为什么给我推荐这双跑鞋？」老周只能答「因为你什么都喜欢」，林姐却可以指着几条高权重记忆说：「你上周买了跑步服，三个月前买过运动鞋，这些都和跑鞋很搭。」注意力机制带来的第二份红利，正是这种可解释性：每个历史行为的权重本身就是「理由强度」。

把 N 个激活权重从大到小排序，取前 k 个权重对应的历史行为（Top-k 行为回溯），再映射回商品名称，就能生成「因为你浏览/购买过 XX，所以推荐 YY」的解释文案。这在电商产品里非常常见：

可解释性的价值不只是「给用户一个交代」。对算法工程师而言，权重分布可以用来排查 bad case：某条推荐点击率异常低，一看权重发现模型把高分给到了错误的历史行为，就能定位是数据问题还是特征问题。对产品而言，解释标签能显著提升点击与信任。林姐的解释不是事后编的，而是决策过程里真实使用的分数——推荐决策和推荐理由共用同一套证据，这是注意力机制比黑盒模型优雅的地方。

电商效果验证：数据会说话

店主决定做个 A/B 实验：一半顾客由老周接待，一半由林姐。一周后看数据，林姐接待的顾客当场成交率明显更高。模型是否有效，不看理念多漂亮，看对照实验。DIN 论文的原生落地场景是淘宝展示广告，离线评估中，作者在 Amazon 等多个数据集与自研工业数据集上对比了 DIN 与基线模型，DIN 的 AUC 与 GAUC 全面领先。GAUC 是「按用户分组计算 AUC 再加权平均」的指标，对用户高度异质的场景更公允。

线上效果则用点击率的相对提升来衡量：

据论文报告，DIN 在线上广告系统中获得了约 10% 的 CTR 相对提升，千次展现收益 RPM 也明显改善。原因并不神秘：展示广告场景用户行为稀疏、兴趣发散，动态兴趣表示比固定向量更能捕捉「此刻到底对什么感兴趣」。林姐上岗后，店主把老周那套画像卡收进了抽屉——数据不会骗人，能涨点击的模型才是好模型。

DeepFM互补与落地：组合拳与工程化

林姐记性好，但店里还有一位老陈师傅，熟稔「价格—品类—季节」的交叉规律，比如「夏季 + 运动 + 折扣」往往高转化。林姐管行为记忆，老陈管特征交叉——这正是 DeepFM 与 DIN 的分工：DeepFM 擅长稀疏特征的显式交叉（FM 部分 + 深度部分），DIN 擅长用户行为序列的「候选相关激活」，两者并非二选一，而是互补关系。

工业界的常见做法是把两者拼进同一个模型：所有特征（用户、商品、上下文）先做嵌入，特征交叉走 DeepFM 通路，行为序列走注意力通路，最后把多路信号拼接进 MLP 输出点击概率：

落地时还有不少工程细节：训练侧，广告场景样本高度稀疏，常用负采样与 mini-batch aware 正则（DIN 论文提出）控制 embedding 稀疏性；推理侧，注意力打分需要对 N 个历史行为逐对计算，要限制行为序列长度（如截断到最近几十条）并做表征预聚合，以满足线上延迟要求。记性好的林姐加上会看规律的陈师傅，才是店里真正的黄金组合——一个负责「想起什么」，一个负责「看穿规律」。

AI 应用场景

Python 演示

import numpy as np # 模拟商品嵌入: 每个商品用4维向量表示兴趣取向item_emb = {    '跑步服': np.array([1.0, 0.0, 0.4, 0.1]),    '运动鞋': np.array([1.0, 0.0, 0.3, 0.2]),    '速干衣': np.array([0.9, 0.1, 0.2, 0.1]),    '炒锅':   np.array([0.1, 1.0, 0.1, 0.2]),    '砧板':   np.array([0.2, 0.9, 0.2, 0.0]),    '登山包': np.array([0.3, 0.1, 0.9, 0.2]),    '跑鞋':   np.array([1.0, 0.0, 0.5, 0.1])} def sigmoid(z):    z = np.clip(z, -20.0, 20.0)    return 1.0 / (1.0 + np.exp(-z)) # 构造训练数据: 行为与候选相关与否用向量内积模拟candidates = ['跑鞋', '炒锅', '登山包']X, y = [], []for cand in candidates:    v_cand = item_emb[cand]    for beh, u in item_emb.items():        feat = np.concatenate([u, v_cand, u * v_cand])        X.append(feat)        y.append(1.0 if np.dot(u, v_cand) >= 0.8 else 0.0)X, y = np.array(X), np.array(y) # 梯度下降训练局部激活单元(逻辑回归形式)w = np.random.RandomState(0).randn(X.shape[1]) * 0.1lr = 0.1for _ in range(300):    p = sigmoid(X @ w)    w -= lr * (X.T @ (p - y)) / len(y) # 模拟用户小王的历史行为序列history = ['跑步服', '炒锅', '运动鞋', '砧板', '登山包'] def din_interest(cand_name):    v_cand = item_emb[cand_name]    weights = []    for beh in history:        u = item_emb[beh]        feat = np.concatenate([u, v_cand, u * v_cand])        weights.append(sigmoid(feat @ w))    weights = np.array(weights)    pooled = sum(item_emb[beh] * a for beh, a in zip(history, weights))    order = np.argsort(-weights)    return pooled, weights, order for cand_name in ['跑鞋', '炒锅']:    pooled, weights, order = din_interest(cand_name)    print('候选商品:', cand_name)    for i in order:        print('  历史行为', history[i], '注意力权重=%.3f' % weights[i])    print('  聚合兴趣向量:', np.round(pooled, 3))

1. feat = np.concatenate([u, v_cand, u * v_cand])把行为向量、候选向量、逐元素相乘结果拼在一起，对应局部激活单元的输入构造
2. y.append(1.0 if np.dot(u, v_cand) >= 0.8 else 0.0)用内积模拟真实业务中的「相关标注」，作为打分器的学习目标
3. w -= lr * (X.T @ (p - y)) / len(y)逻辑回归的梯度下降更新，让打分器学会区分相关与不相关
4. weights.append(sigmoid(feat @ w))对每个历史行为独立打分，得到 0 到 1 的注意力权重
5. pooled = sum(item_emb[beh] * a for beh, a in zip(history, weights))注意力聚合：权重乘行为向量再累加，得到候选相关的兴趣表示
6. order = np.argsort(-weights)按权重降序排列，对应 Top-k 回溯，用于生成推荐理由

常见误区

面试题