One-Class SVM：只有正样本怎么做异常检测

可视化演示

异常检测：只有正样本的世界

老园丁要出差，管家面前是一整园花草。管家没见过杂草，但他知道一件事：老园丁种的花都在这片园子里。他的策略不是去学习“什么是杂草”，而是先锁定“什么算正常”——凡是正常档案上对不上的，都值得警惕。这正是异常检测的起点：你手里只有一份正常档案，却要回答“这个新来的东西正不正常”。

在机器学习里，这种设定叫单类异常检测。传统分类需要正、负两类样本，但现实里异常极其稀有：一万次设备运行才可能有一次故障，一年几千万笔交易里只有几千笔欺诈。能稳定拿到的只有“正常”样本。One-Class SVM 属于“边界法”：它不在数据里找异常，而是只给“正常”画一条闭合边界，边界内放行，边界外都是可疑分子。

最朴素的想法是“看距离”：新样本离所有已见过的正常样本都很远，那就该报警。把这句话写成数学就是：

$$\displaystyle \min_{i} \|x - x_i\| > \theta \Rightarrow x \text{ 为异常}$$

1. 欧氏距离 $\|x - x_i\|$：新样本与某个已见样本之间的直线距离，衡量“长得像不像”。

$$\displaystyle \|x - x_i\| = \sqrt{\sum_{j=1}^{d}(x_j - x_{ij})^2}$$

2. 最近邻距离 $\displaystyle \min_{i}$：在所有已见样本里，找离 x 最近的那个。

$$\displaystyle d_{\min}(x) = \min_{i=1,2,\dots,n} \|x - x_i\|$$

3. 阈值比较 θ：最近距离都超过阈值，说明 x 周边没有正常样本撑着，判为异常。

$$\displaystyle d_{\min}(x) > \theta \Rightarrow x \text{ 是异常}$$

管家发现，“比距离”的方法太脆：样本稍微稀疏一点，误报就变多。于是他决定换一个更结实的思路——在花园上空扣一只尽量小的玻璃罩，把所有正常的植物都罩进去。这就是下一节要讲的球。

SVDD 思想：给花园罩一个玻璃球

管家不满足于逐个比距离。他想，与其记下每一盆花的坐标，不如俯视整片花圃，扣一个透明的玻璃罩，把绝大多数植物都罩进去。罩子越小越好——越小说明管家对“正常”的理解越紧凑。以后有来客，不用翻档案，只需问一句：它在不在罩子里？

这只玻璃罩在数学里叫最小包围超球，是 SVDD（Support Vector Data Description，支持向量数据描述）的核心。它的任务是：在高维空间找到一个球心 c、半径 R，把尽量多的正常样本包进球里，同时让球尽量小。为了照顾个别长歪的样本，允许极少数样本站在球外，由松弛变量 ξ 和参数 nu 来承担惩罚。优化目标写成：

$$\displaystyle \min_{R,c,\xi} \; R^2 + \frac{1}{\nu n}\sum_{i=1}^{n}\xi_i, \quad \text{s.t.} \quad \|\phi(x_i) - c\|^2 \le R^2 + \xi_i, \; \xi_i \ge 0$$

1. 球半径 R：超球的半径平方，是我们要最小化的主要目标。

$$\displaystyle R^2$$

2. 松弛变量 $\xi_i$：第 i 个样本破球而出的距离，允许少数样本不待在球里。

$$\displaystyle \xi_i = \max(0, \|\phi(x_i) - c\|^2 - R^2)$$

3. 折中系数 $\displaystyle \frac{1}{\nu n}$：把越界总惩罚折算进目标，nu 越大，允许的越界越多。

$$\displaystyle \frac{1}{\nu n}\sum_{i=1}^{n}\xi_i$$

4. 球心 c 与映射 φ：所有操作都在核函数映射后的高维空间里进行。

$$\displaystyle \phi(x): \mathbb{R}^d \rightarrow \mathcal{F}$$

训练完成后，真正顶着罩子内壁的少数样本被称为支持向量。它们像篱笆的柱桩，决定了球的位置和大小。有趣的是，罩子越缩越小，直到快碰到最外侧那几盆花的花瓣才停住——未来任何一株植物，只要叶片探出弧线，管家立刻报警。这“顶着罩子的花瓣”，就是我们下一节的主角——核函数和它的尺度参数。

核函数选择：能变形的法术网

花园里的植物并不会乖乖排成圆形。月季长成一条月牙，薄荷丛是一团蓬松的云。管家发现，任何圆形玻璃罩都套不出“正常”的轮廓。这时园丁留给他一张“法术网”（核函数）：只要默念口诀，原本歪歪扭扭的花圃就会被“拍扁再撑开”，变成形状规整、能被圆罩轻松包住的样子。

这个法术在 SVM 家族里叫核函数（Kernel Function）。它不真的把数据搬到高维去算距离，而是通过核技巧在低维空间直接计算高维内积，既省力气又效果好。One-Class SVM 里最常用的默认选择就是 RBF（径向基函数）核，也被称为高斯核：

$$\displaystyle K(x,z) = \exp\!\left(-\gamma \|x - z\|^2\right)$$

1. 平方距离 $\|x - z\|^2$：两个样本在原始特征空间中的距离平方。

$$\displaystyle \|x - z\|^2 = \sum_{j=1}^{d}(x_j - z_j)^2$$

2. 缩放系数 γ：gamma 越大，距离稍微拉开一点，相似度就迅速衰减；gamma 越小，衰减越平缓。

$$\displaystyle \gamma > 0$$

3. 指数映射 $\exp$：把非负的距离变成 (0,1] 的相似度分数，距离为 0 时相似度是 1。

$$\displaystyle \exp(-t) \in (0,1], \quad t \ge 0$$

除了 RBF，还有线性核（适合边界本来就接近线性的情况）和多项式核（适合有一定交互特征的数据）。但 RBF 因为能拟合任意形态的边界、参数只有 gamma 一个，成了默认首选。法术网用一次能把月牙地形拉直，用两次能把云团吹圆，但法力也有代价——用力过猛会把正常叶片也扯出圆外。所以选核函数像选工具的形状，而 gamma 是工具的锋利程度。下一节，我们去拧这两个决定性格的旋钮。

超参调优：nu 与 gamma 两个旋钮

管家拿到法术网后发现，上面有两个旋钮。一个写“容忍度”，叫 nu；一个写“精细度”，叫 gamma。nu 往大拧，意味着管家允许几株长势奇怪的植物待在篱笆外；gamma 往大拧，篱笆开始疯狂贴合每一片叶子，甚至把一片叶子上的虫洞都抠成边界。拧过头，整个花园会被切成无数碎块。

技术上讲，nu 是 One-Class SVM 最重要的超参：它是训练集中“离群点”比例的上界，同时也是支持向量比例的下界。比如 nu=0.05，模型最多容忍 5% 的训练样本被当成异常丢弃，且至少有 5% 的样本会成为顶着边界的支持向量。gamma 则是 RBF 核的带宽参数，直接影响边界的光滑程度。训练完成后，模型真正记住的不是整片花圃，而是少数支持向量：

$$\displaystyle f(x) = \operatorname{sign}\!\left(\sum_{i=1}^{n}\alpha_i K(x_i, x) - \rho\right)$$

1. 支持向量权重 $\alpha_i$：只有顶着边界的样本权重非零，其余样本不参与决策。

$$\displaystyle \alpha_i \ge 0$$

2. 核函数加权和：新样本与每个支持向量的相似度乘以权重后汇总。

$$\displaystyle s(x) = \sum_{i=1}^{n}\alpha_i K(x_i, x)$$

3. 阈值 ρ：加权相似度要超过这个阈值才判正常。

$$\displaystyle \rho \in \mathbb{R}$$

4. 符号函数 $\operatorname{sign}$：结果为正返回 +1（正常），为负返回 -1（异常）。

$$\displaystyle \operatorname{sign}(t) = \begin{cases} +1 & t \ge 0 \\ -1 & t < 0 \end{cases}$$

调参经验上，nu 通常取 0.01~0.1 的小值，因为正常样本里没那么多怪胎；gamma 默认值常用 $\text{gamma} = \frac{1}{d \cdot \text{Var}(X)}$（sklearn 里的 scale）。更可靠的调参方法是网格搜索加验证集上的 F1 或召回率。记住：nu 是“容忍度”，不是“真实异常比例”；gamma 太大是过拟合的警报灯——篱笆绕每片叶子走，风一吹叶子就出了篱笆。

算法对比：三种管园方式

同一座花园，三位管家方法各不相同。SVM 管家画篱笆（边界法）；Isolation Forest 管家玩“切西瓜”——闭眼随机切几刀，几刀就能把一株植物孤零零分出来的，说明它本来就孤立；AutoEncoder 管家是个“临摹画家”，他日日临摹正常植物的神态，换一个怪诞品种来临摹，笔触会乱得不成样子（重构误差大）。

Isolation Forest（孤立森林）的原理是随机切分特征空间，异常点分布稀疏，往往切几刀就被孤立。它的异常得分定义为：

$$\displaystyle s(x, n) = 2^{-\frac{E(h(x))}{c(n)}}$$

1. 路径长度 $h(x)$：一棵随机树中把 x 孤独切出来所需的分割次数。

$$\displaystyle h(x) \in \{0, 1, 2, \ldots, n-1\}$$

2. 平均路径 $E(h(x))$：森林中所有树上的路径长度取平均，抹平随机性。

$$\displaystyle E(h(x)) = \frac{1}{T}\sum_{t=1}^{T} h_t(x)$$

3. 归一化常数 $c(n)$：近似样本的期望路径长度，用来对齐不同规模的数据集。

$$\displaystyle c(n) = 2\ln(n-1) + 0.5772 - \frac{2(n-1)}{n}$$

4. 得分映射 $2^{-\cdot}$：路径越短，指数绝对值越小，得分越接近 1，越异常。

$$\displaystyle s(x, n) \in (0, 1]$$

AutoEncoder（自编码器）则先用正常样本训练“压缩再还原”，模型只会熟练地复原正常形态；遇到没见过的异常形态，还原出的残影就会与原图相差巨大，重构误差自然成为异常分数。三种方法各有地盘：One-Class SVM 适合几百到几千样本、边界清晰的场景；Isolation Forest 高维大数据又快又稳；AutoEncoder 最擅长图像、音频等原始信号。没有万能管家，画篱笆的怕地形复杂但胜在精确，切西瓜的快但看不清细节，临摹的画得慢但最懂神态——选工具之前，先想清楚你的花园长什么样。

特征工程：先给植物量好尺寸

花园档案册上记录的是“株高（米）、叶宽（厘米）、颜色深度（0-255）”。管家刚想画篱笆就发现不对：株高波动不到 0.5，颜色深度动辄差 200。如果直接揉在一起算距离，“叶色”会一个人把篱笆的方向拖走。必须先做一件事——把每个量纲都拉到同一把尺子上。

One-Class SVM 依赖距离和核函数，对特征尺度极其敏感。特征工程的目标是让“正常样本”在特征空间里尽量紧凑、均匀，这样学出的球才能又小又准。最基础的变换是标准化：

$$\displaystyle z = \frac{x - \mu}{\sigma}$$

1. 均值 μ：该特征在正常样本上的平均水平。

$$\displaystyle \mu = \frac{1}{n}\sum_{i=1}^{n}x_i$$

2. 标准差 σ：该特征在正常样本上的波动幅度。

$$\displaystyle \sigma = \sqrt{\frac{1}{n}\sum_{i=1}^{n}(x_i - \mu)^2}$$

3. 标准化变换 z：减均值再除标准差，让每个特征的尺度统一。

$$\displaystyle z = \frac{x - \mu}{\sigma}$$

除了标准化，还有几个实用建议：删除方差接近零的“死特征”（它们不提供信息只增加噪声）；用 PCA 去除冗余相关性；对长尾分布的特征做对数变换。要注意的是，标准化里的 μ 和 σ 只能用训练集（正常样本）去算，测试时直接复用，防止泄漏未来信息。统一尺子之后，篱笆才不会被一两个“嗓门大的特征”牵着鼻子走。特征工程在 One-Class SVM 里不是锦上添花，而是地基——地基偏了，篱笆扎得再漂亮也是歪的。

模型评估：看得出错才算好

管家干了一个月，老园丁回来了，问：“篱笆扎得怎么样？”管家犯难了：花园里确实没出现杂草，可这篱笆到底拦没拦住过东西？后来他一拍脑袋：虽然大部分时候没杂草，但翻翻门房记录，有几回邻居家的猫溜进来过——用这几个“历史异常”，就能试试篱笆灵不灵。

无监督异常检测的评估难在“没有足够标注”。常见做法是：训练时只用正常样本，验证/测试时混入少量已知异常，看模型把它们揪出来的能力。用 decision_function 输出连续分数（越靠球心越正常），调整阈值可以控制告警灵敏度。评估指标中，F1 分数综合了精确率和召回率：

$$\displaystyle F_1 = \frac{2 \times \text{precision} \times \text{recall}}{\text{precision} + \text{recall}}$$

1. 精确率 precision：模型报的异常里，有多少是真异常（不冤枉好人）。

$$\displaystyle \text{precision} = \frac{TP}{TP + FP}$$

2. 召回率 recall：真实异常里，有多少被模型抓住（不漏掉坏人）。

$$\displaystyle \text{recall} = \frac{TP}{TP + FN}$$

3. 调和平均：两个指标差距过大时，F1 会被拖得很低，防止“只报一个准的”这类投机行为。

$$\displaystyle F_1 \in [0, 1]$$

具体操作时，遍历阈值画出 ROC 曲线看 AUC，或画 PR 曲线看精确率-召回率的权衡。异常检测中异常样本极其稀缺，ROC 曲线容易被大量负样本“稀释”，PR 曲线往往更接近实际业务感受。篱笆好不好，不能光听管家夸自己修得勤，要看猫真的钻过时被拦下几回（召回率），也要看好花被误判摞倒几棵（误报率）。记住：在异常检测里，虚惊一场的损失往往小于漏掉真凶的损失——调阈值时心里要有这杆秤。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.svm import OneClassSVMfrom sklearn.preprocessing import StandardScaler  def main():    rng = np.random.RandomState(42)     # 1. 训练集：只有大量正常样本    X_train = rng.randn(300, 2) * 0.8     # 2. 测试集：60 个正常样本 + 10 个异常样本    X_test = rng.randn(60, 2) * 0.8    X_test = np.vstack([X_test, rng.randn(10, 2) * 2 + 3])    y_true = np.array([1] * 60 + [-1] * 10)     # 3. 特征工程：标准化，统一特征尺度    scaler = StandardScaler()    X_train_scaled = scaler.fit_transform(X_train)    X_test_scaled = scaler.transform(X_test)     # 4. 训练 One-Class SVM：只有正常样本，RBF 核    ocsvm = OneClassSVM(kernel='rbf', gamma='scale', nu=0.02)    ocsvm.fit(X_train_scaled)     # 5. 预测：+1 正常，-1 异常；分数越高越正常    y_pred = ocsvm.predict(X_test_scaled)    scores = ocsvm.decision_function(X_test_scaled)     # 6. 评估：简单以准确率衡量，分数排序供人工复核    accuracy = (y_pred == y_true).mean()    print('测试准确率: {:.2f}'.format(accuracy))    print('最可疑的 5 个样本(分数最低):')    top = scores.argsort()[:5]    for i in top:        print('  样本{} 分数={:.3f} 预测={}'.format(i, scores[i], y_pred[i]))  if __name__ == '__main__':    main()

1. X_train = rng.randn(300, 2) * 0.8训练集完全由正常样本构成，这是 One-Class SVM 的前提设定。
2. scaler = StandardScaler()先用正常样本的均值方差做标准化，避免特征尺度不均。
3. ocsvm = OneClassSVM(kernel='rbf', gamma='scale', nu=0.02)创建模型：RBF 核 + 自动 gamma + 2% 容忍度。
4. ocsvm.fit(X_train_scaled)模型只见过正常样本，开始学习“篱笆”的位置。
5. y_pred = ocsvm.predict(X_test_scaled)新样本离边界太远时返回 -1（异常）。
6. scores = ocsvm.decision_function(X_test_scaled)连续分数越高越“正常”，用于后续按阈值分级。
7. top = scores.argsort()[:5]取分数最低的前 5 个样本，类比管家把最可疑的几株植物挑出来供老园丁复核。

常见误区

面试题