想象两个古老的村庄，蓝村和灰村，各自拥有形状规整的领地。一天，国王要派人画一条国界线，把两村的土地彻底分开。只要两个村庄的领地互不重叠，画线的人就一定能找到一条笔直的边界线把两边分开——这就是凸集分离定理最朴素的样子。如果两村之间还有一片空地，画线的人会选择把线画在空地的正中央，让两边各留出一片缓冲区，谁也不觉得吃亏。这条位于正中央、把缓冲区留到最宽的线，就是机器学习中鼎鼎大名的支持向量机（SVM）所追寻的“最大间隔超平面”。本文将带你从“两村画界”出发，一步步看懂凸集、超平面、分离定理、投影定理，以及它们如何撑起 SVM 的几何骨架。

岗位关联

掌握凸集分离定理，等于拿到了理解支持向量机、凸优化可行性分析等核心 AI 算法的几何钥匙，是算法工程师构建模型直觉的必备基石。

目录
  1. 可视化演示
  2. 凸集定义
  3. 超平面之义
  4. 分离定理
  5. 投影定理
  6. 最大间隔
  7. 工程实践
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示凸集分离超平面构造、SVM最大间隔分类几何原理与投影定理，交互理解凸优化分离理论的几何基础。

本节配有交互动效（进入视口后自动加载，约 3KB）。

'+modeData.separation.caption+'

凸集定义

蓝村村长立下一条祖训：在村内任意两栋房子之间拉一根绳子，绳子经过的每一寸土地都必须属于本村。满足这条祖训的领地，形状就像圆形、方形或者椭圆形——绝不能出现月牙那样的凹陷。因为一旦有了凹陷，月牙两端的房子拉上绳子，绳子的中段就会穿出村子边界，掉进别村的地盘。

数学里，这个“拉绳子”的性质叫凸性，满足它的集合叫凸集。凸集是最适合做优化的地形：在凸集上寻找目标函数的最小值，不用担心掉进“局部陷阱”，因为凸地形上没有坑洼——局部最优点一定是全局最优点。这也是为什么凸优化问题在 AI 中如此受欢迎。

正式的凸集定义依赖“凸组合”这个概念。凸组合就像是给连线上的每个位置配一个“混合配方”：用参数 $\lambda$ 决定偏向某一端的比例。凸集要求所有可能的配方结果都留在集合内。

回到村庄比喻：蓝村、灰村都是标准的凸领地。而月牙形的“凹村”就不是凸集——这正是后面分离定理成立的前提：两个没有凹陷的领地之间，才有可能画出一条不拐弯的直线边界。

∀x1,x2∈C, ∀λ∈[0,1]:λx1+(1−λ)x2∈C\displaystyle \forall x_1, x_2 \in C,\ \forall \lambda \in [0,1]:\quad \lambda x_1 + (1-\lambda)x_2 \in C
凸组合就是“两点连线上的任意一点”，凸集就是“任意两点的连线都完整地躺在集合里”。
  1. 任意点对$x_1$ 和 $x_2$ 是集合 $C$ 中随便挑的两个点，它们代表村庄里任意两栋房子的位置。
    x1, x2∈Cx_1,\ x_2 \in C
  2. 混合比例$\lambda$ 是 0 到 1 之间的任意实数，控制连线上的点更靠近 $x_1$ 还是 $x_2$。
    λ∈[0,1]\lambda \in [0,1]
  3. 凸组合$\lambda x_1 + (1-\lambda)x_2$ 是连线上的点的“配方”，相当于按比例混合两栋房子的坐标。
    λx1+(1−λ)x2\lambda x_1 + (1-\lambda)x_2
  4. 封闭性这个混合点必须仍然落在 $C$ 内，也就是绳子上的每一寸土地都得在本村。
    λx1+(1−λ)x2∈C\lambda x_1 + (1-\lambda)x_2 \in C

超平面之义

国王的画线官手里有一把“无限长的直尺”：在二维土地上，它是一条直线；在三维空间里，它是一面无限大的板；在高维数据空间里，它就叫超平面。超平面是凸集分离定理的主角——所有“画国界”的操作，本质上都是找一个合适的超平面。

描述超平面只需要两个参数：朝向和位置。这就像描述一扇门：法向量 $a$ 决定门板朝哪个方向立，偏置 $b$ 决定门框装在走廊的哪一段。两者共同确定了一扇门在空间里的唯一状态。

有了超平面，空间就被切成“门里”和“门外”两半：一边满足 $a^{\mathrm{T}}x > b$，另一边满足 $a^{\mathrm{T}}x < b$。SVM 的分类决策，本质上就是问一句：这个样本点落在超平面的哪一侧？回到比喻，国界线就是那把无限长的直尺，它把大地分成“蓝侧”与“灰侧”。有了这个工具，分离定理就可以正式登场了。

H={ x∣aTx=b }\displaystyle H = \{\, x \mid a^{\mathrm{T}}x = b \,\}
$a^{\mathrm{T}}x = b$ 就是“空间中所有投影长度为 $b$ 的点”的集合，它们连在一起构成一个平直的面。
  1. 法向量 $a$一个非零向量，垂直指向超平面，决定超平面朝哪个方向“倾斜”。
    a≠0a \neq 0
  2. 点积度量$a^{\mathrm{T}}x$ 表示点 $x$ 在法向量 $a$ 方向上的投影长度，它衡量的是“点在门面的哪个高度层级”。
    aTxa^{\mathrm{T}}x
  3. 阈值 $b$一个实数常数。所有投影长度恰好等于 $b$ 的点，恰好铺满整个超平面，移动 $b$ 就平移超平面。
    H={x∣aTx=b}H = \{x \mid a^{\mathrm{T}}x = b\}

分离定理

画线官面对的正式任务是：蓝村和灰村互不相交，保证能画出一条直线把两村分开吗？凸集分离定理拍胸脯保证：只要两个凸集互不相交，必定存在一个超平面把它们分开。这是所有分类问题最底层的几何依据——它告诉我们“能分开”这件事本身是成立的。

但要注意“分开”的精度。如果两村之间有空隙，可以画一条严格分离线，线的两边各留出正距离；如果两村只是边界挨着边界（比如共用一堵墙），就只能画一条“贴地皮”的线，让边界点恰好落在线上。后者叫非严格分离，前者叫严格分离。

严格分离则要求强一些的不等式：

用村庄语言收尾：两条领地之间只要有一口气的空隙，边界线就能画得干干净净、绝不贴脸。分离定理不告诉我们界墙画在哪最好，但保证了“画得出来”——至于最优画法，要看投影定理和最大间隔。

∃a≠0, b,s.t.∀x∈C, ∀y∈D: aTx≤b≤aTy\displaystyle \exists a \neq 0,\ b,\quad \mathrm{s.t.}\quad \forall x \in C,\ \forall y \in D:\ a^{\mathrm{T}}x \leq b \leq a^{\mathrm{T}}y
max⁡x∈C aTx<b<min⁡y∈D aTy\displaystyle \max_{x \in C}\, a^{\mathrm{T}}x < b < \min_{y \in D}\, a^{\mathrm{T}}y
普通分离允许样本恰好贴在超平面上，严格分离则要求两个集合与超平面之间都留出“一口气”的正距离。
  1. 存在性必然存在一个非零法向量 $a$ 和实数 $b$，它们共同构造出那堵“界墙”。
    ∃a≠0, b\exists a \neq 0,\ b
  2. 单侧约束$C$ 中所有点代入 $a^{\mathrm{T}}x$ 都不超过 $b$，即整村位于界墙的一侧。
    aTx≤b, ∀x∈Ca^{\mathrm{T}}x \leq b,\ \forall x \in C
  3. 对侧约束$D$ 中所有点代入 $a^{\mathrm{T}}y$ 都不小于 $b$，即整村位于界墙的另一侧。
    aTy≥b, ∀y∈Da^{\mathrm{T}}y \geq b,\ \forall y \in D
  4. 严格分离条件当 $C$ 和 $D$ 之间存在正距离时，“不超过”升级为“严格小于”，“不小于”升级为“严格大于”。
    max⁡x∈CaTx<b<min⁡y∈DaTy\max_{x \in C} a^{\mathrm{T}}x < b < \min_{y \in D} a^{\mathrm{T}}y

投影定理

为了找到那条“最公平”的国界线，画线官得先找到两个村庄最近的两个哨所。怎么找？想象你从灰村门口向蓝村方向笔直走去，路的尽头就是蓝村离你最近的点——这个“路的尽头”在数学上就叫投影点。

投影定理说：给定一个点 $y$ 和一个凸集 $C$，$C$ 上存在唯一一个点 $x^{*}$ 离 $y$ 最近。刻画这个最近点的关键是一个“变分不等式”：从 $y$ 指向 $x^{*}$ 的向量，与从 $x^{*}$ 指向 $C$ 中任何其他点 $x$ 的向量，夹角都是钝角或直角。它像几何里的“垂线最短”逻辑的推广。

投影定理不仅仅是几何事实，它还是分离定理的“证明引擎”：把 $x^{*}$ 和 $y$ 连线的垂直平分面拿出来，恰好就得到分离两个集合的超平面。交替投影算法正是反复利用这个性质，像两只手交替伸向对方一样，迭代逼近两个凸集的最近距离。

x∗=arg⁡min⁡x∈C ∥x−y∥\displaystyle x^{*} = \arg\min_{x \in C}\ \| x - y \|
⟨y−x∗, x−x∗⟩≤0,∀x∈C\displaystyle \langle y - x^{*},\ x - x^{*} \rangle \leq 0,\quad \forall x \in C
投影定理把“最近点”翻译成一个不等式条件：$y$ 到 $x^{*}$ 的方向与凸集内部任何方向都“张不开锐角”。
  1. 最近点$x^{*}$ 是凸集 $C$ 中离外部点 $y$ 距离最小的那一个点，相当于蓝村离你最近的哨所。
    x∗=arg⁡min⁡x∈C∥x−y∥x^{*} = \arg\min_{x \in C} \|x - y\|
  2. 距离度量$\|x - y\|$ 是两点之间的欧几里得距离，对应你从灰村门口到蓝村哨所走的路程。
    ∥x−y∥\| x - y \|
  3. 变分不等式$\langle y - x^{*},\ x - x^{*} \rangle \leq 0$ 是说，$y - x^{*}$ 与任何 $x - x^{*}$ 的内积不大于零，等价于“垂足处往外看都是钝角”。
    ⟨y−x∗, x−x∗⟩≤0\langle y - x^{*},\ x - x^{*} \rangle \leq 0

最大间隔

画线官手里已经有一堆可行画法，哪条最公平？答案是让两侧缓冲区都尽可能宽的线——最大间隔超平面。这就像在两国交界处设立一块尽量宽的无人区，谁也不能越界，谁都觉得自己不吃亏。

SVM 把每条样本看作一个点，贴上标签 $y_i = \pm 1$（蓝村为 $+1$，灰村为 $-1$）。它要求每个点都落在自己那侧的“安全线”之外，也就是函数间隔至少为 1。在这个约束下最大化间隔宽度 $2/\|w\|$，就能得到那条位于正中央的国界线。

由于最大化 $2/\|w\|$ 等价于最小化 $\|w\|^2$，通常写成更方便求解的形式：

从两村画界的公平原则，到机器的分类边界——SVM 的间隔最大化就是凸集分离定理的“最优版本”。分离定理只保证“有条线”，最大间隔则把“哪条线最好”这个问题也回答了。

max⁡w,b 2∥w∥s.t.yi(wTxi+b)≥1, i=1,…,m\displaystyle \max_{w,b}\ \frac{2}{\|w\|} \quad \mathrm{s.t.}\quad y_i(w^{\mathrm{T}}x_i + b) \geq 1,\ i = 1, \dots, m
min⁡w,b 12∥w∥2s.t.yi(wTxi+b)−1≥0\displaystyle \min_{w,b}\ \frac{1}{2}\|w\|^2 \quad \mathrm{s.t.}\quad y_i(w^{\mathrm{T}}x_i + b) - 1 \geq 0
最大间隔问题是一个凸二次规划：目标函数是凸的、约束是线性的，因此不存在局部最优的坑，全局最优就是两村正中间那条线。
  1. 函数间隔归一化约束 $y_i(w^{\mathrm{T}}x_i + b) \geq 1$ 要求每个样本至少离边界线有“1 个单位的余量”，把尺子刻度统一了。
    yi(wTxi+b)≥1y_i(w^{\mathrm{T}}x_i + b) \geq 1
  2. 几何间隔$\dfrac{2}{\|w\|}$ 是两个支撑边界之间的垂直宽度，也就是无人区的实际宽度。
    2∥w∥\frac{2}{\|w\|}
  3. 等价转化最大化 $\dfrac{2}{\|w\|}$ 等价于最小化 $\dfrac{1}{2}\|w\|^2$，前者带分式不好优化，后者是标准凸二次型。
    min⁡w,b 12∥w∥2\min_{w,b}\ \frac{1}{2}\|w\|^2

工程实践

现实世界总有不听话的“村民”：由于测量噪声或数据重叠，某些样本点会误入对方领地。如果死守“零越界”的硬间隔，边界会被个别异常点牵着鼻子走，反而画得歪歪扭扭。工程上的补救措施是软间隔——允许少量样本越过边界，但越界要付出代价。

软间隔引入松弛变量 $\xi_i$，相当于给每个越界的村民记一笔“罚款”。目标函数里加上惩罚项 $C\sum \xi_i$，用系数 $C$ 控制罚款力度。$C$ 大，模型对越界零容忍，容易过拟合；$C$ 小，模型更宽容，可能欠拟合。

如果数据本身在低维根本分不开，工程上还有最后一招：核技巧，把数据映射到高维空间再线性分割——分离定理在高维空间依然成立。软间隔就像国界线上的“缓冲区管理费”：越界的村民交罚款，罚多少由 $C$ 定；而核技巧则是把平面地图卷成球面，让原本绕弯的边界线在高维里变得笔直。

min⁡w,b,ξ 12∥w∥2+C∑i=1mξis.t.yi(wTxi+b)≥1−ξi, ξi≥0\displaystyle \min_{w,b,\xi}\ \frac{1}{2}\|w\|^2 + C\sum_{i=1}^{m}\xi_i \quad \mathrm{s.t.}\quad y_i(w^{\mathrm{T}}x_i + b) \geq 1 - \xi_i,\ \xi_i \geq 0
软间隔的松弛变量把“必须在线外”放宽为“可以差一点，但要付出代价”，$C$ 就是那个决定代价有多大的旋钮。
  1. 松弛变量$\xi_i \geq 0$ 允许第 $i$ 个样本突破边界线 $\xi_i$ 个单位，对应村民越界的距离。
    yi(wTxi+b)≥1−ξiy_i(w^{\mathrm{T}}x_i + b) \geq 1 - \xi_i
  2. 惩罚项$C\sum_{i=1}^{m}\xi_i$ 对所有越界距离求和并乘以惩罚系数，越界越多、罚款越重。
    C∑i=1mξiC\sum_{i=1}^{m}\xi_i
  3. 目标权衡$\dfrac{1}{2}\|w\|^2$（边界宽度）与 $C\sum \xi_i$（越界罚款）在同一个目标函数里互相制约。
    min⁡w,b,ξ 12∥w∥2+C∑i=1mξi\min_{w,b,\xi}\ \frac{1}{2}\|w\|^2 + C\sum_{i=1}^{m}\xi_i

AI 应用场景

垃圾邮件过滤（SVM 超平面）

阶段：特征工程与模型训练

解决的问题：传统关键词黑名单总被绕过，规则越写越长却仍然误判。AI 将每封邮件变成高维向量，把“正常邮件村”与“垃圾邮件村”看成两个凸集，用 SVM 学习一个分离超平面。超平面两侧的缓冲区越大，说明模型对边界附近的模糊邮件越有把握，泛化能力越强。

具体案例：某邮箱服务用 2 万封带标签邮件训练线性 SVM，将 TF-IDF 特征映射到 1.2 万维空间，学到的超平面在测试集上精确率达到 97.3%，误判率相比规则方法降低了 40%。

工业设备异常检测（投影定理）

阶段：特征提取与距离度量

解决的问题：正常工况的传感器数据天然聚成一个“凸村落”，异常检测其实就是问：新样本离正常村有多远？用投影定理计算新样本到正常数据凸集的最近距离，超过阈值即报警。相比固定阈值法，这种方案能适应工况漂移。

具体案例：风力发电机振动监测中，对正常数据构建凸包，实时计算每个振动样本到凸包的投影距离。某风场部署后，轴承故障提前 3 天预警，误报率从 12% 降到 2%。

Python 演示

python51 行
import numpy as np def project_onto_disk(point, center, radius):    """将 point 投影到圆心 center、半径 radius 的圆盘（凸集）上。"""    diff = point - center    dist = np.linalg.norm(diff)    if dist <= radius:        return point.copy()    return center + diff / dist * radius def alternating_projection(c_center, c_radius, d_center, d_radius,                           max_iter=1000, tol=1e-8):    """交替投影：找出两个不相交圆盘之间的最近点对。"""    u = d_center - c_center    u = u / np.linalg.norm(u)    x = c_center + c_radius * u    y = d_center - d_radius * u    for _ in range(max_iter):        x_new = project_onto_disk(y, c_center, c_radius)        y_new = project_onto_disk(x_new, d_center, d_radius)        if np.linalg.norm(x_new - x) + np.linalg.norm(y_new - y) < tol:            x, y = x_new, y_new            break        x, y = x_new, y_new    return x, y def build_separating_hyperplane(x, y):    """由最近点对构造分离超平面（垂直平分线）：w^T z = b。"""    mid = (x + y) / 2    w = y - x    w = w / np.linalg.norm(w)    b = w @ mid    return w, b if __name__ == "__main__":    C_center = np.array([0.0, 0.0])    C_radius = 1.0    D_center = np.array([4.0, 0.5])    D_radius = 1.0     x, y = alternating_projection(C_center, C_radius,                                  D_center, D_radius)    w, b = build_separating_hyperplane(x, y)     print("C 盘最近点:", x)    print("D 盘最近点:", y)    print("最近距离:", np.linalg.norm(y - x))    print("分离超平面: %.4f x1 + %.4f x2 = %.4f" % (w[0], w[1], b))    assert w @ C_center - b < 0, "C 圆心应在超平面一侧"    assert w @ D_center - b > 0, "D 圆心应在超平面另一侧"    print("验证通过：两个圆心分居超平面两侧")
目的：用交替投影算法求两个不相交凸集（圆盘）的最近点对，再由最近点对的垂直平分面构造分离超平面。
  1. project_onto_disk(point, center, radius)把任意点投影到圆盘上，若点在圆内则原样返回，否则沿径向拉回边界，这正是投影定理的直接实现。
  2. alternating_projection(...)交替把当前点投影到另一个集合上，像两只手轮流伸向对方，最终收敛到最近点对。
  3. build_separating_hyperplane(x, y)最近点对的中点落在超平面上，两点连线方向就是法向量，垂直平分面即分离超平面。
  4. assert w @ C_center - b < 0验证 C 的圆心在超平面负侧，D 的圆心在正侧，确保分离性成立。

常见误区

误区“两个凸集只要不相交，就一定存在一条线把它们完全分开，两边还都离得远远的。”

正解只有两个凸集之间存在“空隙”（最近距离大于零）时才能严格分离。如果两个凸集只是边界相切，只能得到非严格分离——相切的那个边界点会恰好落在超平面上。这就像两个村庄紧挨着共用一堵墙，墙本身就是国界线，没有缓冲区。

为何常见：生活直觉中“不相交”通常意味着有距离，但数学上“相切”也是不相交，初学者容易忽略这个边界情况。

误区“分离定理说分界线一定画在两个集合的正中间，离两边一样远。”

正解分离定理只保证存在某个超平面把两个凸集分开，并不保证等距。等距是 SVM 做额外优化（最大化间隔）的结果。分离定理回答“有没有”，最大间隔回答“哪条最好”，两者不能混为一谈。

为何常见：把 SVM 的特例当成了分离定理的通例，因为教科书和教程里常见的那张图恰好画的是最大间隔超平面。

误区“分离定理就是画一条直线把两组点分开，升到三维以上就不成立了。”

正解超平面概念存在于任意维度：一维是点、二维是线、三维是面、更高维叫超平面。SVM 处理高维数据正是依赖这一推广。就像国界线在平面上是线，在球面上是大圆弧，在三维空间里就是一面“墙”。

为何常见：人脑只能直观可视化三维以内的几何，导致对高维推广缺乏直觉。

误区“投影定理说的就是点到直线的垂足，初中就学过了。”

正解垂足是“点到直线或平面”的投影，属于线性子空间的特例。投影定理处理的是“点到任意凸集”的投影，凸集可以是圆盘、多边形等非线性形状，此时没有简单垂足。关键性质是变分不等式，一个不等式条件，而不是等号。

为何常见：初等几何的垂足概念太根深蒂固，忽略了凸集形状的任意性。

误区“SVM 天生只能画直线，遇到线性不可分的数据就无能为力，应该换神经网络。”

正解软间隔 SVM 允许少量样本越过边界，配合核技巧还能把数据映射到高维空间再线性分割。凸集分离定理在高维空间依然成立，所以 SVM 在复杂数据上依然强大。硬间隔线性 SVM 只是入门特例。

为何常见：只接触了线性可分的入门示例，不知道软间隔与核技巧这两大工程扩展。

面试题

Q1. 凸集分离定理的核心结论是：

单选题 · easy

  • A.任意两个集合都可被超平面分离
  • B.两个不相交凸集可被超平面分离← 正确答案
  • C.任意两个凸集必须彼此相交
  • D.凸集的交集恰好是超平面

答案：B。分离定理要求两个集合都是凸集且互不相交，此时才保证存在超平面。A 漏掉了凸性条件，C 与定理相反，D 把交集误认为超平面，均不正确。

Q2. 超平面方程 $a^{\mathrm{T}}x = b$ 中，参数 $b$ 决定的是：

单选题 · easy

  • A.超平面的朝向
  • B.超平面的位置← 正确答案
  • C.超平面的维数
  • D.超平面的个数

答案：B。法向量 $a$ 决定超平面的朝向，$b$ 决定超平面在原空间中的平移位置。移动 $b$，超平面就像一扇门沿法向量方向前后滑动，维度和个数都不受影响。

Q3. 严格分离与普通分离的关键区别在于：

单选题 · mid

  • A.使用一条加粗的直线
  • B.两集离超平面有正距离← 正确答案
  • C.超平面必须穿过原点
  • D.只需法向量非零解

答案：B。严格分离要求 $\max a^{\mathrm{T}}x < b < \min a^{\mathrm{T}}y$，即两个集合与超平面之间都保留正距离。普通分离允许等式成立、点落在超平面上，与直线粗细、原点位置都无关。

Q4. 投影定理中，点 $y$ 到凸集 $C$ 的最近点 $x^{*}$ 满足：

单选题 · mid

  • A.$y - x^{*}$ 与 $C$ 平行
  • B.$\langle y - x^{*}, x - x^{*} \rangle \leq 0$ 对所有 $x \in C$ 成立← 正确答案
  • C.$y - x^{*}$ 与 $C$ 中所有向量垂直
  • D.$x^{*}$ 必定在 $C$ 的内部

答案：B。变分不等式 $\langle y - x^{*}, x - x^{*} \rangle \leq 0$ 是投影点的充要条件，它刻画了“垂线方向与凸集方向张不开锐角”。垂直是线性子空间的特例，投影点通常落在边界而非内部。

Q5. SVM 最大间隔超平面的几何位置在：

单选题 · mid

  • A.两个类别中心的连线上
  • B.两类最近点的正中间← 正确答案
  • C.离原点最远的位置上
  • D.所有样本点的均值处

答案：B。最大间隔超平面是两类支撑边界（分别经过各自最近点）的垂直平分面，正好位于最近点对的正中间。类别中心连线、样本均值都不等距，离原点最远更与间隔无关。

Q6. 若两个凸集 $C$ 和 $D$ 恰好边界相切但内部不相交，则：

单选题 · hard

  • A.仍然可以严格分离
  • B.只能得到非严格分离← 正确答案
  • C.无法用超平面分离
  • D.只能用曲面超平面分离

答案：B。相切时最近距离为零，严格分离要求的正距离不存在，但分离定理仍保证非严格分离成立，且相切点恰好在超平面上。超平面永远是平直的，不存在“曲面超平面”。

Q7. 判断一个集合是否为凸集，需要验证：

单选题 · easy

  • A.任意两点连线都在集合内← 正确答案
  • B.集合关于坐标原点对称
  • C.集合必须是有限有界闭集
  • D.集合的边界必须是直线

答案：A。凸集的定义就是“任意两点的凸组合仍在集合内”，即连线完全落在集合中。对称性、有界性、边界形状都不是必要条件，圆形、三角形都可以是凸集。

Q8. 关于软间隔 SVM，下列说法正确的是：

多选题 · mid

  • A.引入松弛变量 $\xi_i$ 容忍个别样本越界← 正确答案
  • B.惩罚系数 $C$ 越大越不容忍错分← 正确答案
  • C.软间隔完全不适用于线性可分数据
  • D.软间隔目标仍是最大化硬间隔

答案：AB。软间隔通过松弛变量允许少量越界，$C$ 控制越界的罚款力度，$C$ 越大对越界越严格。软间隔在有噪声的数据上更稳健，目标是在间隔宽度与越界代价之间权衡，而非单纯最大化硬间隔。

Q9. 凸集分离定理在机器学习中的典型应用包括：

多选题 · hard

  • A.SVM 分类边界推导← 正确答案
  • B.凸优化可行性分析← 正确答案
  • C.反向传播梯度计算
  • D.异常检测距离阈值设定← 正确答案

答案：ABD。SVM 的间隔边界、凸优化中判断可行域是否为空、异常检测中判断样本是否脱离正常凸包，都直接用到分离定理。反向传播依赖链式法则与梯度计算，与凸集分离没有直接关系。

Q10. 关于投影定理与分离定理的关系，正确的是：

多选题 · extreme

  • A.最近点对的垂直平分面可作分离超平面← 正确答案
  • B.投影定理可以用来证明分离定理← 正确答案
  • C.投影点一定落在凸集的内部
  • D.最近距离为零时无法严格分离← 正确答案

答案：ABD。用投影得到最近点对，再作垂直平分面，就能构造分离超平面，这是分离定理的标准证明路径。最近距离为零意味着两集相切，只能非严格分离。投影点通常在边界上而非内部，C 错误。