结构化预测：输出有结构的预测

可视化演示

动态演示结构化预测的核心机制，通过入门/进阶/实战/优化四种模式展示关键概念与交互流程。

认识结构化预测

阿明把第一批木板切成抽屉侧板、隔板和背板。小伞用普通分类器给每块板打上“可用/不可用”的章，结果每块板都合格，拼起来却摇摇晃晃。问题出在哪儿？因为分类器只单独看一块木板，没看它和旁边木板的榫头是否咬合。结构化预测要解决的，正是“把整件家具当成一个整体来做决定”。

普通分类的输出是一个孤立标签，比如“猫”“狗”或“垃圾邮件”。结构化预测的输出则是一组相互关联的变量：一句中文里的词性序列、一篇文章的句法树、一张图片里每个像素的类别网格，甚至一个蛋白质的三维折叠结构。它们共同组成一个“结构化的输出对象”，任意两个位置都可能相互影响。因此，模型不能对每个位置独立取最大值，而要在所有合法的输出组合里寻找整体最优。

用一个通用公式来描述这个过程：给定输入 \(x\)，我们选择一个输出 \(y\)，使整体打分函数 \(f(x,y)\) 最大。

阿明拍了拍图纸说：“先看整件家具的稳定性，再决定每一块木料放哪里。”这正是结构化预测的第一课：走出单点判断，拥抱全局决策。

输出结构与表示

画图纸时，阿明会把书柜拆成组件和接头：侧板和隔板之间有榫头，抽屉和滑轨之间有连接件。机器学习的“结构表示”同样要回答两个问题：输出由哪些零件组成？零件之间有哪些连接？不同任务会选择不同的结构：序列是一条线上的相邻关系，树是父子层次关系，图则是任意节点之间的复杂连接。

把结构画成“因子图”是一种通用做法。每个小圆圈代表一个输出变量，每个小方块代表一个“因子”——也就是一撮变量之间的约束或兼容性。句子词性标注可以拆成相邻两个词之间的因子；句法树可以拆成父节点与子节点之间的因子；图像分割可以拆成相邻像素之间的因子。于是，整体打分不再是黑箱，而是所有因子打分的总和。

图纸画得越细，师傅越不容易做歪。同理，结构表示越能捕捉变量之间的依赖，联合推断就越容易选出真正协调的整体方案。

能量函数设计

在工坊里，阿明会把几块板先靠在一起试一下，如果接缝处翘起、晃动，他就说“这地方很别扭”。机器学习里，“别扭度”的正式名字叫能量：能量越低，说明这套输出的各个部分越契合；能量越高，说明整体越不协调。因此，结构化预测也可以看作是“找一组让整体能量最低的输出”。

能量函数通常由两部分组成：单点势函数和成对势函数。单点势函数只管一个位置本身与该位置观察特征的匹配程度；成对势函数关注两个相邻位置“同时取某两个标签”的代价。比如在图像分割里，单点势会说“这个像素的颜色偏红，更像‘车辆’”；成对势会说“相邻两个像素如果是‘车辆’和‘天空’，交界处会很突兀，所以要扣分”。

阿明常说：“最好的家具不是每一块板都最贵，而是每两个接缝都不别扭。”能量函数设计的本质，就是把这种“别扭感”量化成可计算的分数。

结构化SVM

小伞问：“别扭度怎么定？总不能每次都让老师傅手动打分吧？”阿明笑了：“多给我看几套好家具和几套歪家具，我就能总结出一套眼光。”结构化SVM 正是这个原理：从数据中学习一个打分函数，让正确输出的分数高于所有错误输出的分数，并且差距越大越好。

结构化SVM 的评分是线性的：\(f_w(x,y)=w^\top \Phi(x,y)\)。训练时，它要求对于每个样本，正确输出 \(y_i\) 的得分必须比任何错误输出 \(y\) 的得分高出至少 \(\Delta(y_i,y)\)——这个差值就是“结构损失”。如果不够高，就产生惩罚。把所有样本的惩罚加起来，并加入正则项控制模型复杂度，就得到目标函数。

学完这套“眼光”，模型不再只知道单点好坏，而是会对整套输出给出有全局观的评分。这就像阿明看过的家具越多，越能一眼看出哪套柜子会晃。

推理算法

有了打分函数，怎么从指数级的候选输出里找到最高分？小伞说：“把每块板的每个位置都试一遍不行吗？”阿明摇头：“十块板、三种标签就有 3 的十次方种组合，试到天黑也试不完。”推理算法就是用来高效搜索最优结构的工具。

对于序列结构，最经典的精确算法是维特比算法。它把问题拆成一段一段的子问题：先算第一个位置的各自最优分数，再逐步向后扩展，每一步只保留“到当前标签为止的最好分数”。递推时，如果第 \(t\) 个位置选择标签 \(j\)，那么它的最高分等于前一个位置某个标签 \(i\) 的最高分，加上转移分数和当前位置的得分。最终再沿记录回溯，得到最优整条路径。

对于树结构，可以用类似动态规划的信念传播；对于一般图结构，精确推理往往很难，工程中常用束搜索等近似方法。阿明的经验是：先看清结构，再选工序；序列用精确动态规划，复杂图就用“差不多不犯错”的近似搜索。

损失与学习

客户验收家具时，标准并不总是“整体不倒”就够了。有时客户要求每个榫头都不能松，有时只要求柜门能正常开关。机器学习同样需要损失函数来告诉模型“错了多少”。如果只用 0/1 损失，只要整条序列错一个词性就判为全错，模型会学得很痛苦；如果按位置统计错误个数，模型就能知道“错得不多，还有救”。

最常用的结构损失之一是汉明损失：逐位比较预测结果和真实结果，数一数有多少个位置对不上。对序列标注来说，它天然适合衡量“有几个词的标签标错了”；对图像分割来说，它等价于“有多少像素被标错”。

在结构化SVM 中，这个损失还会进入“损失增广推断”，让模型重点学习那些既分数高、损失又大的危险错误。阿明把这个过程比作“带客户去现场验收”：不仅要让柜子能站稳，还要让客户指出的每一处松动都成为下次改进的重点。

应用与挑战

阿明的工坊后来接了三类大单。第一单是“给句子搭骨架”：输入一句话，输出一棵句法依存树，哪个词修饰哪个词，关系一目了然。第二单是“给图片分区域”：输入一张街景照片，输出每个像素的类别，车辆、行人、建筑连成一片。第三单最复杂，是“预测蛋白质怎么折叠”：输出氨基酸链在三维空间里的结构图，相当于用一张大网描述几十万原子之间的空间关系。

这些任务的共同点是输出空间巨大、结构约束强。序列结构能用维特比线性规划精确求最优，但换成一般图结构，精确推理往往会遇到计算爆炸。复杂度可以这样看：

面对复杂结构，工程上常用束搜索、近似信念传播或结合深度学习做端到端近似预测。阿明的总结是：结构越复杂，越要懂得“抓大放小”；接受近似的代价，换取实际可用的速度。

AI 应用场景

Python 演示

import numpy as np def viterbi(unary, pair):    T = len(unary)    K = len(unary[0])    alpha = [unary[0][j] for j in range(K)]    back = []    for t in range(1, T):        cur = [0] * K        prev = [0] * K        for j in range(K):            val = [alpha[i] + pair[i][j] + unary[t][j] for i in range(K)]            best = max(val)            cur[j] = best            prev[j] = val.index(best)        alpha = cur        back.append(prev)    end = max(range(K), key=lambda j: alpha[j])    path = [end]    for t in range(T - 2, -1, -1):        end = back[t][end]        path.append(end)    path.reverse()    return path, max(alpha) def independent(unary):    return [max(range(len(row)), key=lambda j: row[j]) for row in unary] unary = [    [0.9, 0.4],    [0.3, 0.8],    [0.7, 0.5],]pair = [    [1.0, -0.5],    [-0.5, 1.0],]joint_path, joint_score = viterbi(unary, pair)ind_path = independent(unary)print("joint path:", joint_path, "score:", joint_score)print("independent path:", ind_path)

1. alpha = [unary[0][j] for j in range(K)]初始化第一个位置各标签的累计分数，相当于从第一块木板开始记录。
2. val = [alpha[i] + pair[i][j] + unary[t][j] for i in range(K)]计算从任意前一个标签 \(i\) 转移到当前标签 \(j\) 的局部总得分。
3. best = max(val)保留到当前标签为止的最高累计分，这是动态规划的“记住最好成绩”思想。
4. prev[j] = val.index(best)记录最优路径来自前一个位置的哪个标签，为后面回溯做准备。
5. back.append(prev)保存每一步的回溯表，相当于拼接完工艺流程图。
6. joint_path, joint_score = viterbi(unary, pair)执行联合推断，得到同时考虑相邻关系的完整输出序列。
7. ind_path = independent(unary)独立分类逐个取最高分，忽略标签之间的依赖，可能输出“局部正确、全局别扭”的序列。

常见误区

面试题