想象你是小镇规划师，要给山坡上两群住户修一条笔直的生态隔离带：红房子在左边，蓝房子在右边。规划条例要求隔离带不能压到任何一栋房子，而且从中心线到两侧要尽量宽——越宽，两边的住户越不容易因为小事起冲突。这里的“中心线”就是分类超平面，“隔离带”就是间隔。可要怎么在“不碰房子”和“尽量宽”之间找到那条最合适的线？直觉上你会把线放到红蓝两群房子正中间；但一栋位置特殊的房子可能会把整条线“顶”得偏移，它就是支持向量。理解最大间隔超平面的推导，就是学会把这段规划直觉翻译成数学语言：先写一条线，再定义间隔，再把“最大间隔”写成一个有约束的最优化问题，接着用拉格朗日对偶把它变成一个更容易求解、也更有启发性的对偶问题。最后你会发现，真正决定那条线的不是所有房子，而只是离中心线最近的那几栋。

岗位关联

学懂最大间隔超平面的推导，你才能看穿支持向量机的“骨架”：知道它为什么是最优分类器、为什么只有支持向量起作用，以及为什么核技巧能自然出现——这是从调包走向算法内核的必经一步。

目录
  1. 可视化演示
  2. 问题建模：先画中心线
  3. 间隔最大化：把路修宽
  4. 凸二次规划：写成施工图纸
  5. 拉格朗日对偶：引入押金机制
  6. 对偶问题求解：化简新图纸
  7. 支持向量与边界：谁在撑起路沿
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

动态演示求解最大间隔超平面的数学推导的核心机制，通过概览/流程/对比/趋势四种模式展示关键概念与交互流程。

本节配有交互动效（进入视口后自动加载，约 3KB）。

求解最大间隔超平面的数学推导：从间隔最 从间隔最大化到凸二次规划的形式 拉格朗日乘子法与对偶问题转换 核心机制可视化 求解最大间隔超平面的数学推导整体架构与关键组件

问题建模：先画中心线

作为规划师，第一步不是急着修路，而是在图纸上定下那条“中心线”。这条线的一侧属于红房子，另一侧属于蓝房子；任何一栋房子站在线上，就是分类的“交界处”。在数学里，一条 d 维空间的直线或平面写成 w·x+b=0，它就是我们说的超平面。

其中 w 是法向量，像一枚指南针，垂直指向中心线，并且决定了线的朝向；b 是平移量，决定中心线离原点多远。给一栋房子 x 打一个“位置分”：w·x+b，分数为正就往蓝色一侧偏，分数为负就往红色一侧偏。为了让结果变成类别标签，我们用符号函数把分数映射成 +1 或 -1，这就是决策函数。

这里“同号判定”就像规划师检查房子是否在自己那一侧：红房子在红线侧，蓝房子在蓝线侧，中心线就分对了。但只分对还不够，下一节的问题是：隔离带究竟有多宽？

f(x)=sign⁡(w⋅x+b)\displaystyle f(\mathbf{x})=\operatorname{sign}(\mathbf{w}\cdot\mathbf{x}+b)
  1. 点积评分w·x+b 计算样本在法向量方向上的带符号得分，正值靠近一侧，负值靠近另一侧。
    w⋅x+b\mathbf{w}\cdot\mathbf{x}+b
  2. 符号决策sign 把正数判为 +1 类，把负数判为 -1 类，从而输出最终类别。
    sign⁡(z)={+1,z>0−1,z<0\operatorname{sign}(z)=\begin{cases}+1,& z>0\\-1,& z<0\end{cases}
  3. 标签对齐当 y_i 与 w·x_i+b 同号时，预测正确，于是分类正确条件可以写成 y_i(w·x_i+b)>0。
    yi(w⋅xi+b)>0y_i(\mathbf{w}\cdot\mathbf{x}_i+b)>0

间隔最大化：把路修宽

中心线画好后，还要保证两侧各有充足的安全距离。规划师希望隔离带越宽越好，因为宽路意味着缓冲大、误判少。但“距离”有两种计数方式：一种叫函数间隔，一种叫几何间隔。

函数间隔是 y_i(w·x_i+b)，它像图纸上的“刻度数”。这个刻度数有个麻烦：如果把 w 和 b 同时放大 2 倍，中心线还是原来那条线，但刻度数却变成原来的 2 倍。所以函数间隔不能当作真实的米数。真实米数是几何间隔，等于函数间隔除以 w 的模长 ||w||。为了让问题有唯一标准，我们约定：最近样本的函数间隔恰好为 1。这样一来，中心线到左侧或右侧边界的最短实际距离都是 1/||w||，整个隔离带的宽度就是两侧之和。

于是“把路修得尽量宽”就等价于“让 2/||w|| 尽量大”，也就是让 ||w|| 尽量小。这条路越宽，红蓝两家未来的冲突就越少，这正是最大间隔的直觉。

γ=2∥w∥\displaystyle \gamma=\frac{2}{\lVert\mathbf{w}\rVert}
  1. 固定标尺先约定最近样本满足 y_i(w·x_i+b)=1，其余样本都满足 ≥1，消除缩放影响。
    yi(w⋅xi+b)≥1y_i(\mathbf{w}\cdot\mathbf{x}_i+b)\ge 1
  2. 点到平面距离样本到超平面的几何距离是 |w·x_i+b|/||w||，在边界上分母保留。
    ∣yi(w⋅xi+b)∣∥w∥=1∥w∥\frac{|y_i(\mathbf{w}\cdot\mathbf{x}_i+b)|}{\lVert\mathbf{w}\rVert}=\frac{1}{\lVert\mathbf{w}\rVert}
  3. 两侧相加红蓝两侧各有一个方向相反的最短距离，合起来就是完整隔离带宽度。
    γ=1∥w∥+1∥w∥=2∥w∥\gamma=\frac{1}{\lVert\mathbf{w}\rVert}+\frac{1}{\lVert\mathbf{w}\rVert}=\frac{2}{\lVert\mathbf{w}\rVert}

凸二次规划：写成施工图纸

规划师不会靠肉眼一条条试线，而会把要求写成一张正式的施工图纸：目标是最小化某种成本，约束是每栋房子都必须留在自己的安全线外。这个优化问题长这样：

其中 1/2 只是为了让求导后的系数更干净，不影响最优解。目标函数是二次的，约束是线性的，所以这是一个标准的凸二次规划问题。凸性意味着这座“成本峡谷”只有一个最低点，不存在让人困惑的多个局部坑；只要沿着山坡往下走，找到的低点一定是全局最低点。

这张“施工图纸”保证了问题一定能被求解，而且答案稳定。不过，直接解带不等式的原始问题有点麻烦，于是数学家换了个角度：用押金机制把约束“买”进目标函数里。

\displaystyle \min_{\mathbf{w},b}\ \frac{1}{2}\lVert\mathbf{w}\rVert^2\quad \text{s.t.}\quady_i(\mathbf{w}\cdot\mathbf{x}_i+b)\ge 1,\quad i=1,\dots,n
12∥w∥2\displaystyle \frac{1}{2}\lVert\mathbf{w}\rVert^2
  1. 目标函数最小化 w 模长的平方，等价于最大化几何间隔 2/||w||。
    min⁡w 12∥w∥2\min_{\mathbf{w}}\ \frac{1}{2}\lVert\mathbf{w}\rVert^2
  2. 不等式约束每个样本必须被正确分类，并且至少离中心线一个单位的函数间隔。
    yi(w⋅xi+b)−1≥0y_i(\mathbf{w}\cdot\mathbf{x}_i+b)-1\ge 0
  3. 凸性保证二次目标加线性约束围出的可行域是凸集，因此局部最优就是全局最优。
    ∇2(12∥w∥2)=I⪰0\nabla^2\left(\frac{1}{2}\lVert\mathbf{w}\rVert^2\right)=\mathbf{I}\succeq 0

拉格朗日对偶：引入押金机制

施工队无法二十四小时盯着每一栋房子，于是规划师设计了一套押金制度：每栋房子交一笔押金 α_i，如果房子越界，押金就被罚走；如果房子乖乖待在安全线内，押金最终可以退回。越界的冲动越大，押金就越要定得高。这个押金在数学里就是拉格朗日乘子。

把押金机制写成公式，就得到拉格朗日函数：原始目标 1/2||w||² 减去所有约束项乘以各自的押金 α_i。

押金的好处是：约束不再需要硬邦邦地单独检查，而是被揉进了目标函数。真正会“贴身”挨着边界线的房子才需要交押金，离得远的房子押金自然为 0——这个性质后面会导出支持向量。

L(w,b,α)=12∥w∥2−∑i=1nαi[yi(w⋅xi+b)−1],αi≥0\displaystyle L(\mathbf{w},b,\boldsymbol{\alpha})=\frac{1}{2}\lVert\mathbf{w}\rVert^2-\sum_{i=1}^{n}\alpha_i\big[y_i(\mathbf{w}\cdot\mathbf{x}_i+b)-1\big],\quad \alpha_i\ge 0
  1. 原始成本1/2||w||² 是修隔离带的直接成本，对应路越宽、成本越低。
    12∥w∥2\frac{1}{2}\lVert\mathbf{w}\rVert^2
  2. 约束惩罚α_i 是非负押金，约束被违反时惩罚项变大，从而阻止越界。
    ∑i=1nαi[yi(w⋅xi+b)−1]\sum_{i=1}^{n}\alpha_i\big[y_i(\mathbf{w}\cdot\mathbf{x}_i+b)-1\big]
  3. 对偶视角原始问题先对 w,b 求最小、再对 α 求最大；对偶问题则交换顺序，变成先对 w,b 求最小、再对 α 求最大。
    min⁡w,bmax⁡α≥0L=max⁡α≥0min⁡w,bL\min_{\mathbf{w},b}\max_{\boldsymbol{\alpha}\ge 0}L=\max_{\boldsymbol{\alpha}\ge 0}\min_{\mathbf{w},b}L

对偶问题求解：化简新图纸

有了押金机制，接下来就可以“解雇”一部分参数，只保留押金清单。具体做法是：先固定 α，对 w 和 b 分别求偏导，令它们等于 0。这会给出两个漂亮的关系式，再代回拉格朗日函数，w 和 b 就被消掉了，只剩下 α 和样本之间的内积。

这张新图纸比原始问题更优雅：它只依赖样本两两之间的内积 x_i·x_j。正因如此，将来想用核技巧时，只需要把内积替换成核函数，就能在更高维空间里隐式地寻找最大间隔超平面。

max⁡αsumi=1nαi−12∑i=1n∑j=1nαiαjyiyj(xi⋅xj)s.t.∑i=1nαiyi=0,αi≥0\displaystyle \max_{\boldsymbol{\alpha}}\\sum_{i=1}^{n}\alpha_i-\frac{1}{2}\sum_{i=1}^{n}\sum_{j=1}^{n}\alpha_i\alpha_j y_i y_j(\mathbf{x}_i\cdot\mathbf{x}_j)\quad \text{s.t.}\quad\sum_{i=1}^{n}\alpha_i y_i=0,\quad \alpha_i\ge 0
  1. 对 w 求偏导令 ∂L/∂w=0，得到 w 是样本的 α_i y_i x_i 线性组合。
    w=∑i=1nαiyixi\mathbf{w}=\sum_{i=1}^{n}\alpha_i y_i\mathbf{x}_i
  2. 对 b 求偏导令 ∂L/∂b=0，得到对偶问题中的等式约束。
    ∑i=1nαiyi=0\sum_{i=1}^{n}\alpha_i y_i=0
  3. 回代消去 w,b把上面两式代回 L，原本包含 w,b 的项全部被整理成 α 的二次型。
    L=∑i=1nαi−12∑i=1n∑j=1nαiαjyiyj(xi⋅xj)L=\sum_{i=1}^{n}\alpha_i-\frac{1}{2}\sum_{i=1}^{n}\sum_{j=1}^{n}\alpha_i\alpha_j y_i y_j(\mathbf{x}_i\cdot\mathbf{x}_j)
  4. 得到对偶目标加上 α_i≥0 和 Σα_i y_i=0，就得到最终的对偶问题。
    max⁡α ∑i=1nαi−12∑i=1n∑j=1nαiαjyiyj(xi⋅xj)\max_{\boldsymbol{\alpha}}\ \sum_{i=1}^{n}\alpha_i-\frac{1}{2}\sum_{i=1}^{n}\sum_{j=1}^{n}\alpha_i\alpha_j y_i y_j(\mathbf{x}_i\cdot\mathbf{x}_j)

支持向量与边界：谁在撑起路沿

隔离带修好后，真正撑起路沿的是离中心线最近的那几栋房子。它们站在两条边界线上，像护栏一样把中心线的位置顶住；其他房子哪怕后退一百米，也不会改变隔离带的方向和宽度。在数学上，这种“谁在撑边界”的关系由 KKT 互补松弛条件描述：

由之前 w 的表达式可知，w 能写成支持向量的线性组合；再取任意一个支持向量 x_s，利用 y_s(w·x_s+b)=1 就能解出 b = y_s - w·x_s。最终决策函数只保留这些“撑路沿的房子”：f(x)=sign(Σ α_i y_i (x_i·x)+b)。其他房子全都沉默，只有支持向量在说话。

αi[yi(w⋅xi+b)−1]=0,αi≥0\displaystyle \alpha_i\big[y_i(\mathbf{w}\cdot\mathbf{x}_i+b)-1\big]=0,\quad \alpha_i\ge 0
  1. 互补松弛对每个样本，α_i 和约束余量至少有一个为 0。
    αi=0或yi(w⋅xi+b)−1=0\alpha_i=0 \quad \text{或} \quad y_i(\mathbf{w}\cdot\mathbf{x}_i+b)-1=0
  2. 支持向量判定若 α_i>0，则对应样本必须落在边界上，即 y_i(w·x_i+b)=1。
    yi(w⋅xi+b)=1y_i(\mathbf{w}\cdot\mathbf{x}_i+b)=1
  3. 无关样本淘汰若样本远离边界，则约束余量大于 0，此时 α_i=0，它对模型不产生贡献。
    αi=0\alpha_i=0

AI 应用场景

文本分类：用核技巧在词向量空间划隔离带

阶段：模型训练与优化

解决的问题：在垃圾邮件过滤中，原始词向量往往不是线性可分的；直接训练线性分类器容易漏掉复杂模式。最大间隔超平面的对偶推导让目标函数只依赖样本内积，因此可以无缝替换成核函数，在更高维空间里自适应地找一条最宽隔离带。

具体案例：某内容平台用 TF-IDF 向量表示评论，再用带 RBF 核的支持向量机区分“正常评论”和“垃圾评论”。由于支持向量只占训练集的一小部分，模型存储和推理开销显著降低。

金融风控：用小样本守住违约边界

阶段：模型训练与鲁棒性评估

解决的问题：信用卡违约样本往往远少于正常样本，且两类样本在特征空间中互相交叠。最大间隔思路天然追求更宽的决策边界，对特征扰动更不敏感，能避免传统模型被少量异常点带偏。

具体案例：某消费金融公司用客户年龄、收入、历史还款率等特征训练硬间隔 SVM 作为基线模型，再对比逻辑回归和树模型。支持向量对应的客户恰好是那些“最接近违约线”的人，风控团队因此能重点关注这批客户。

工业质检：用少数缺陷样本撑起边界

阶段：模型推理与部署

解决的问题：工业质检中缺陷样本通常很少，标注成本高。最大间隔超平面只依赖支持向量，意味着模型可以用少量“边界样本”描述缺陷与正常的区别，并且部署时只需保存支持向量而非全部训练数据。

具体案例：某电子元器件产线采集正常焊点与缺陷焊点的图像特征，用 SVM 训练分类器。训练集中缺陷样本只有几十个，但模型在产线实测中仍能保持高召回率，因为支持向量精准框出了最容易混淆的边界区域。

Python 演示

python42 行
import numpy as npfrom scipy.optimize import minimize  def solve_hard_margin_svm(X, y):    n_features = X.shape[1]     def objective(theta):        return 0.5 * np.dot(theta[:n_features], theta[:n_features])     def gap(theta):        return y * (X @ theta[:n_features] + theta[n_features]) - 1.0     cons = [{"type": "ineq", "fun": gap}]    theta0 = np.zeros(n_features + 1)    theta0[:n_features] = 1.0    result = minimize(objective, theta0, constraints=cons, method="SLSQP")     w = result.x[:n_features]    b = result.x[n_features]    margin = 2.0 / np.linalg.norm(w)    active = np.abs(y * (X @ w + b) - 1.0) < 1e-6    support_vectors = X[active]    return w, b, margin, support_vectors  if __name__ == "__main__":    X = np.array([        [1.0, 2.0],        [2.0, 1.0],        [2.5, 2.2],        [-1.0, -2.0],        [-2.0, -1.0],        [-2.5, -2.2],    ])    y = np.array([1, 1, 1, -1, -1, -1])     w, b, margin, support_vectors = solve_hard_margin_svm(X, y)    print("w =", w)    print("b =", b)    print("margin =", margin)    print("support vectors =", support_vectors)
目的：用 scipy 的约束优化器求解硬间隔 SVM，得到最大间隔超平面 w·x+b=0，并筛选出真正撑起边界的支持向量。
  1. def objective(theta): return 0.5 * np.dot(theta[:n_features], theta[:n_features])目标函数对应 1/2||w||²，系数 1/2 让求导更简洁。
  2. def gap(theta): return y * (X @ theta[:n_features] + theta[n_features]) - 1.0实现约束 y_i(w·x_i+b)≥1。
  3. cons = [{"type": "ineq", "fun": gap}]告诉优化器：gap 必须大于等于 0。
  4. theta0[:n_features] = 1.0用一组初始可行解启动优化，避免 SLSQP 从不可行点出发。
  5. result = minimize(objective, theta0, constraints=cons, method="SLSQP")求解带不等式约束的凸二次规划。
  6. margin = 2.0 / np.linalg.norm(w)从最优的 ||w|| 还原几何间隔 2/||w||。
  7. active = np.abs(y * (X @ w + b) - 1.0) < 1e-6判断哪些样本激活了约束，即支持向量。

常见误区

误区我以为 `y_i(w·x_i+b)` 越大，隔离带就越宽，所以直接最大化这个值就好。可一旦把 `w` 放大十倍，分数也跟着放大十倍，感觉“路突然变宽了”，但超平面根本没动。

正解函数间隔只是带刻度的读数，真实距离是几何间隔，即函数间隔除以 ||w||。先约定最近样本的函数间隔为 1，再让 2/||w|| 最大，才能得到真实的“米数”。就像地图上的比例尺被放大，不代表实际距离变长。

为何常见：教材引入函数间隔时更直观，初学者常常忽略“除以模长”的归一化步骤。

误区训练完成后，我以为每个训练点都对超平面有贡献，随便删掉一个点，分类线就会剧烈移动。

正解互补松弛条件说明只有 α_i>0 的支持向量会撑起边界；非支持向量的约束余量大于 0，对应 α_i=0，删掉它们完全不改变模型。正因为这样，SVM 才能用少量支持向量描述整个分类器。

为何常见：原始问题里确实写了所有样本的约束，但拉格朗日对偶和 KKT 条件会把绝大多数样本的系数清零，这个“稀疏化”过程容易被忽视。

误区我以为 `α_i` 只是推导过程中随手引入的辅助变量，没有实际含义，算完就可以丢掉。

正解α_i 非常重要：非零的 α_i 恰好对应支持向量，相当于“押金不为零的房子”。它决定了 w 的表达、b 的计算，也让决策边界只依赖支持向量。对偶目标里只出现 x_i·x_j，更是核技巧得以成立的关键。

为何常见：逐行推导拉格朗日函数时，注意力全在数学符号上，缺少“押金”这类直观类比。

误区我学着最大间隔超平面之后，以为任何二分类问题都能用硬间隔 SVM，遇到离群点也能自动处理好。

正解硬间隔要求训练数据严格线性可分，否则不等式约束无法同时满足。现实数据几乎总有噪声，这时需要用软间隔 SVM 引入松弛变量，允许少量样本越界；硬间隔推导是理想化的起点，不是万能公式。

为何常见：教材为了清晰地推导凸二次规划，通常先用理想可分数据举例，容易让人忘记前提条件。

面试题

Q1. 函数间隔 y_i(w·x_i+b) 最大的问题是什么？

单选题 · easy

  • A.会随 w、b 同倍数缩放而改变大小← 正确答案
  • B.等于样本到平面真实的几何距离
  • C.数值越大模型一定越不容易过拟合
  • D.只由超平面方向决定，与大小无关

答案：A。函数间隔是带刻度的读数，w 和 b 同时放大几倍，超平面没变，函数间隔却变了。真实距离必须除以 ||w|| 得到几何间隔，所以 A 正确，B、C、D 都不符合函数间隔的性质。

Q2. 硬间隔 SVM 的约束条件通常写成？

单选题 · easy

  • A.$y_i(w\cdot x_i+b)\ge 1$← 正确答案
  • B.$y_i(w\cdot x_i+b)\le 1$
  • C.$y_i(w\cdot x_i+b)= 0$
  • D.$y_i(w\cdot x_i+b)< 1$

答案：A。先把最近样本的函数间隔标准化为 1，再要求所有样本都大于等于 1，这样几何间隔才等于 1/||w||，完整间隔是 2/||w||。选 A。

Q3. 当硬间隔约束被标准化后，几何间隔 γ 等于？

单选题 · easy

  • A.$\frac{2}{\lVert \mathbf{w}\rVert}$← 正确答案
  • B.$\frac{\lVert \mathbf{w}\rVert}{2}$
  • C.$2\lVert \mathbf{w}\rVert$
  • D.$\frac{1}{2\lVert \mathbf{w}\rVert}$

答案：A。最近样本到超平面的距离是 1/||w||，红蓝两侧各有一个，所以总间隔是 2/||w||。最大间隔也就等价于最小化 ||w||²。

Q4. 关于“把函数间隔标准化为 1”的理解，正确的是？

多选题 · mid

  • A.任意缩放 w、b 都不会改变分类面← 正确答案
  • B.缩放后几何间隔会变为原来的倒数
  • C.最近样本落在边界上，其余满足 ≥1← 正确答案
  • D.标准化能消除函数间隔的尺度不确定性← 正确答案

答案：ACD。分类面 w·x+b=0 确实对 (w,b) 的整体缩放不变，A 对；标准化后至少有一个正类和一个负类样本落在边界上，其他样本满足 ≥1，C 对；标准化正是为了抵消缩放影响，D 对。B 是随意编造的倒数关系。

Q5. 为什么最大间隔问题要最小化 1/2||w||² 而不是最大化其他量？

单选题 · mid

  • A.最大化间隔等价于最小化 w 的模长平方← 正确答案
  • B.最小化后权重 w 一定变成零向量
  • C.最大化约束条件会让整个模型快速退化
  • D.因为二次目标函数不是凸的没法求导

答案：A。几何间隔是 2/||w||，要让间隔最大，就需要让 ||w|| 最小；加平方和 1/2 只是为了求导方便，且二次函数是凸的。B、C、D 都与事实相反。

Q6. 拉格朗日函数中为什么要引入 α_i≥0？

单选题 · mid

  • A.用非负罚金处理不等式约束← 正确答案
  • B.让支持向量的数量变得尽可能少
  • C.为了把目标函数改造成线性函数
  • D.因为 α_i 必须靠交叉验证才能确定

答案：A。在最小化原始目标时，不等式约束需要以“惩罚项”的形式进入拉格朗日函数，乘子必须非负，约束被违反时惩罚才有效。α_i 是否非零由优化结果决定，不是直接等于 1 或由交叉验证预先指定。

Q7. 对偶问题中约束 Σ α_i y_i=0 的来源是？

单选题 · mid

  • A.拉格朗日函数对 b 求偏导令为 0← 正确答案
  • B.拉格朗日函数对 w 求偏导令为 0
  • C.对偶函数必须严格小于原始目标
  • D.每个样本的 α_i 都必须等于 1

答案：A。对 b 求偏导并令其为 0，会直接得到 Σ α_i y_i=0。对 w 求偏导得到的则是权重表达式 w=Σ α_i y_i x_i，不能混淆。

Q8. 一个训练样本是支持向量，它必然满足？

单选题 · hard

  • A.$y_i(w\cdot x_i+b)=1$← 正确答案
  • B.$y_i(w\cdot x_i+b)>1$
  • C.$\alpha_i=0$
  • D.$\lVert \mathbf{x}_i\rVert=1$

答案：A。互补松弛条件规定，α_i>0 时约束必须被激活，也就是 y_i(w·x_i+b)=1。支持向量正好站在边界线上，而不是远离边界，更不一定有单位范数。

Q9. 为什么从对偶问题中可以看到“核技巧”的入口？

单选题 · hard

  • A.对偶目标只涉及样本内积 x_i·x_j← 正确答案
  • B.对偶目标只涉及标签 y_i 的平方
  • C.对偶目标要求把数据降到一维
  • D.对偶目标中完全不出现样本数据

答案：A。对偶目标里的交叉项是 α_i α_j y_i y_j (x_i·x_j)，样本只以内积形式出现。因此只要把 x_i·x_j 替换成核函数 K(x_i,x_j)，就可以隐式映射到高维空间，这就是核技巧的数学入口。

Q10. 关于硬间隔最大间隔优化，正确的有哪些？

多选题 · mid

  • A.它是有不等式约束的凸二次规划← 正确答案
  • B.局部最优解同时也一定是全局最优← 正确答案
  • C.目标函数关于 w 具有严格凸性← 正确答案
  • D.增加约束数量间隔一定变大

答案：ABC。目标函数是严格凸的二次函数，约束是线性不等式，因此整体是凸二次规划，局部最优即全局最优。A、B、C 对。约束越多代表限制越强，间隔只会变小或不变，不会变大，D 错。

Q11. 从原始问题到对偶问题的推导中，正确的说法有哪些？

多选题 · hard

  • A.对 w 求偏导可得到 w=Σ α_i y_i x_i← 正确答案
  • B.对 b 求偏导可得到 Σ α_i y_i=0← 正确答案
  • C.回代后目标函数只依赖 α 和点积← 正确答案
  • D.回代后目标函数只依赖 w 和 b

答案：ABC。这是推导对偶问题的三个关键步骤：对 w 求偏导得到权重表达式，对 b 求偏导得到等式约束，回代消去 w,b 后目标函数只剩 α 和样本内积。D 恰好说反了。

Q12. 在硬间隔 SVM 中，关于支持向量和决策函数的说法正确的是？

多选题 · hard

  • A.只有 α_i>0 的样本出现在决策函数中← 正确答案
  • B.移除非支持向量不会改变分类边界← 正确答案
  • C.支持向量越多，间隔一定越宽
  • D.可通过支撑向量上的 y_s 和 x_s 求 b← 正确答案

答案：ABD。决策函数中的求和只在 α_i>0 的支持向量上进行，A 对；非支持向量对应 α_i=0，删掉不影响边界，B 对；利用支持向量满足 y_s(w·x_s+b)=1 可求 b=y_s-w·x_s，D 对。支持向量数量由优化决定，数量多不代表间隔宽，C 错。