搜索引擎案例：相关性排序

可视化演示

排序问题本质

顾客对服务员说“来点清淡的”，服务员脑子里瞬间闪过几道候选菜，但她不会把候选一股脑端上桌，而是先想清楚每道菜“合不合适”，再排一个先后顺序端出去。这道“想清楚再排序”的动作，正是搜索引擎里最核心的环节——相关性排序。

一次搜索分两步：召回（recall）先从亿级网页中快速筛出几百个“看起来相关”的候选，只求不漏；排序（ranking）再对这几个候选精细打分、排出先后。用户几乎只看前一两页，第 3 名和第 300 名的命运天差地别。可以说，排序质量直接定义了搜索引擎的口碑。

抽象来看，排序系统就是一个打分函数 Score(q,d)：给定查询 q 和文档 d，输出一个实数分数，全体文档按分数降序排列得到结果列表。衡量“相关”的高与低，既要看文档是否覆盖了查询主题，也要看它是否满足用户当下的真实意图。

服务员给每道菜打“合适分”再排序，搜索引擎给每个网页打“相关分”再排序。后面的 BM25、多因子特征、学习排序、语义匹配，全都是为了让这个分数打得更准。想清楚“打分”这件事，就抓住了排序的命门。

BM25文本匹配

最早的排序靠“背菜名”：菜单里出现“清淡”二字的菜就排前面。这套字面匹配虽然笨，在文本检索上却意外地好用，BM25 就是它的集大成者。直到今天，BM25 依然是文本检索和搜索引擎召回阶段的黄金基线，几乎所有新算法都要先跑赢它。

BM25 站在 TF-IDF 的肩膀上：词在文档里出现越多（词频 TF），文档越可能相关；词在全语料里越稀有（逆文档频率 IDF），一旦命中价值越大。它额外做了两个工程优化——用参数 k1 实现“词频饱和”（出现 10 次并不比 5 次好太多），用参数 b 做“文档长度归一化”（长文档的词频要打折，防止内容注水）。

菜名背得再熟，也理解不了“想吃点不油的”和“清蒸鲈鱼”的关系。BM25 在语义上天然“失明”，但这恰恰是它作为基线的价值：简单、快、可解释。任何花哨的新方法都要先问一句——你能稳定跑赢 BM25 吗？

多因子特征工程

金牌服务员点菜从不只看菜名，她会叠加“口碑怎么样、最近被翻牌多不多、这位顾客上次吃了什么”等信息。搜索引擎也是如此，除了 BM25 文本分，还要为每个查询-文档对抽取几十上百个特征，交给模型综合判断。这就像给“合适分”装上了多只眼睛。

特征大致分三类：文本特征（BM25 分、标题命中、词重叠率）回答“字面像不像”；行为特征（历史点击率 CTR、停留时长、后续点击）回答“别人爱不爱看”；质量特征（页面权威度、时效性、收录时间）回答“这文档靠不靠谱”。三者互补，缺一不可。

最简单的融合方式是线性加权：每个特征乘一个权重再求和。虽然朴素，但可解释性强，也是后续学习排序模型的输入基础。

特征为王。工业界常说：“把特征做扎实，比换一个更复杂的模型收益更大。”就像服务员把口碑、热度、顾客忌口都记在小本本上，排序系统就有了“常识”，不再只是字面匹配的复读机。

学习排序模型

特征太多，权重靠人调不现实。于是有了学习排序（Learning to Rank, LTR）：把“特征→得分→顺序”的映射交给模型从数据里自动学。好比新服务员小张把老师傅的每一单记录收集起来，自己琢磨“原来顾客提'清淡'时，娃娃菜比红烧肉更该排前面”。

按训练目标分三类。Pointwise（单文档排序）把排序当回归/分类，对每个文档独立预测相关度，实现简单但不管文档间关系；Pairwise（文档对排序）每次取“一个相关文档 + 一个不相关文档”组成配对，训练目标是让前者的得分高于后者；Listwise（列表级排序）直接优化整个列表的质量，最贴近真实目标但训练开销最大。

Pairwise 的经典做法（RankNet 思路）把“文档 i 排在 j 前”建模为一个概率，再用负对数似然作为损失：

选型就像服务员的成长路径：刚入行先学“两两比较哪道菜更合适”（Pairwise），熟练后再学“整桌怎么统筹出最佳顺序”（Listwise）。数据少、求稳时从 Pointwise/Pairwise 起步，数据充足、追求整页体验时再上 Listwise，循序渐进最稳妥。

NDCG离线评估

排得好不好，需要有尺子量。餐厅会请美食评委从两个维度打分：相关度（这道菜合不合点单需求）和顺序（最合适的是否在最前面）。搜索引擎离线评估最常用的尺子，就是 NDCG（归一化折损累计增益）。

流程分三步：先让标注员给每条结果分级标注 rel（0 不相关、1 相关、2 强相关）；再从前往后累计增益，位置越靠后折损越大；最后除以理想排序的累计增益 IDCG，得到 0 到 1 之间的 NDCG 分数，满分代表排序与标注完全一致。

评委试吃只是离线把关，真实顾客买不买账还要看线上的 A/B 测试。NDCG 高是“这道菜理论上合适”，点击率高才是“顾客真的点了”。业界标准做法是：离线 NDCG 快速筛方案，在线指标做最终决策。

语义排序优化

字面匹配的天花板，要靠“理解语义”来突破。顾客说“想吃点爽口解腻的”，金牌服务员知道他要的是清淡酸辣口，而不是字面含“爽口”二字的菜。深度学习要做的，就是让搜索引擎“读懂意思”而不是“对字眼”。

典型方案是双塔模型（如 Sentence-BERT）：把查询 q 编码成向量，把文档 d 编码成向量，用余弦相似度衡量语义距离。两个向量夹角越小，语义越接近；即使“清蒸鲈鱼”里没有“不油腻”三个字，模型也能给出高分。

生产环境不会抛弃 BM25，而是采用“混合架构”：向量召回负责语义宽进，把字面不匹配但意思接近的候选捞进来；BM25 负责字面兜底，保证强匹配不漏；两路候选合并后，交给精排（LTR）输出最终顺序。用户的点击日志再回流为训练数据，形成持续优化的数据飞轮。从背菜名到懂口味，排序系统一路进化，但核心不变——理解需求、多维度打分、用真实反馈持续校准。

AI 应用场景

Python 演示

import math # 迷你语料: 四道菜的产品介绍corpus = [    "清蒸鲈鱼 清淡 鲜嫩 少油",    "红烧肉 肥而不腻 浓油赤酱",    "麻辣烫 香辣 过瘾 重口味",    "上汤娃娃菜 清淡 鲜甜 爽口",]  def tokenize(text):    return text.lower().split()  def compute_idf(docs):    n = len(docs)    df = {}    for doc in docs:        for w in set(tokenize(doc)):            df[w] = df.get(w, 0) + 1    # 平滑IDF: 词越稀有权重越大    return {w: math.log((n + 1) / (v + 1)) + 1 for w, v in df.items()}  def bm25(query, docs, k1=1.5, b=0.75):    idf = compute_idf(docs)    avgdl = sum(len(tokenize(d)) for d in docs) / len(docs)    scores = []    for doc in docs:        words = tokenize(doc)        dl = len(words)        freq = {}        for w in words:            freq[w] = freq.get(w, 0) + 1        s = 0.0        for q in tokenize(query):            if q not in freq:                continue            tf = freq[q]            # 长度归一化: 长文档的词频要打折            norm = k1 * (1 - b + b * dl / avgdl)            s += idf[q] * tf * (k1 + 1) / (tf + norm)        scores.append(s)    return scores  def train_pairwise(feats, labs, lr=0.1, epochs=200):    n = len(feats)    dim = len(feats[0])    w = [0.0] * dim    for _ in range(epochs):        for i in range(n):            for j in range(n):                # 只处理"相关 vs 不相关"配对                if labs[i] <= labs[j]:                    continue                si = sum(w[k] * feats[i][k] for k in range(dim))                sj = sum(w[k] * feats[j][k] for k in range(dim))                # 不相关文档排前面的概率                p = 1.0 / (1.0 + math.exp(sj - si))                for k in range(dim):                    # 梯度更新: 让相关文档得分比不相关文档高                    w[k] += lr * p * (feats[i][k] - feats[j][k])    return w  if __name__ == "__main__":    print("=== BM25 字面匹配: 查询[清淡 鱼] ===")    scores = bm25("清淡 鱼", corpus)    for doc, sc in sorted(zip(corpus, scores), key=lambda x: -x[1]):        print(f"{sc:.3f}  {doc}")     print("\n=== Pairwise 学习排序 ===")    # 每个候选的特征: [词频相关, 语义相似, 页面质量]    feats = [        [3.0, 0.9, 1.0],        [1.0, 0.2, 0.5],        [0.5, 0.1, 0.3],        [2.0, 0.8, 0.9],    ]    labs = [1, 0, 0, 1]  # 1=相关, 0=不相关    w = train_pairwise(feats, labs)    print("学到的特征权重:", [round(x, 3) for x in w])    for f, lab in zip(feats, labs):        sc = sum(wi * fi for wi, fi in zip(w, f))        print(f"标注={lab} 得分={sc:.3f}")

1. df[w] = df.get(w, 0) + 1统计包含某词的文档数，这是计算 IDF 的前置步骤。
2. return {w: math.log((n + 1) / (v + 1)) + 1 for w, v in df.items()}带平滑的 IDF：词越稀有值越大，平滑项防止除零和负权重。
3. norm = k1 * (1 - b + b * dl / avgdl)长度归一化：文档越长分母越大，词频贡献被压得越低。
4. s += idf[q] * tf * (k1 + 1) / (tf + norm)BM25 核心累加：IDF 加权、词频饱和、长度归一三者合一。
5. if labs[i] <= labs[j]:只挑“相关 vs 不相关”配对，跳过同类配对，这正是 Pairwise 的核心思路。
6. p = 1.0 / (1.0 + math.exp(sj - si))计算“不相关文档排前面”的概率，作为梯度更新的信号。
7. w[k] += lr * p * (feats[i][k] - feats[j][k])沿梯度方向更新特征权重，让相关文档得分逐渐高于不相关文档。

常见误区

面试题