多变量漂移检测：捕捉复杂的分布变化

可视化演示

展示PCA降维投影漂移检测、多变量距离度量MMD/Wasserstein/KL散度对比、分层检测架构。切换模式探索高维分布变化捕捉方法。

单变量检测局限

想象你是一家体检中心的全科医生。过去的做法是“单项体检”：给每个客户量一遍血压、测一遍心率、抽一管血查血糖，每一项对照参考范围打个勾。血压正常、心率正常、血糖正常——好，体检合格。这种把每个指标单独拎出来检查的方式，在医学和 AI 监控里有个共同的名字：单变量检测。它的思路很朴素：每个指标独立地和“正常范围”比较，只要越界就报警。

在模型监控中，“正常范围”就是训练数据里特征分布的统计量——均值、方差、分位数。单变量漂移检测为每个特征监视这些统计量是否显著变化。听起来合理，但它有两个致命盲区。第一，它假设特征之间互不影响，可现实中的特征往往是联动的——就像血压、心率和血糖会一起升高才是真正的危险信号。第二，当监控的特征数量变多时，误报率会像滚雪球一样膨胀。

误报率膨胀可以用一个简单的公式描述：假设每个特征单独检测的误报率是 \(\alpha\)，监控 \(d\) 个特征，那么整个系统至少误报一次的概率是：

$$\displaystyle \alpha_{\text{total}} = 1 - (1-\alpha)^{d}$$

1. 单项正常的概率：单次单变量检测不误报的概率是 \(1-\alpha\)，它是所有后续计算的基石。

$$1 - \alpha$$

2. 所有维度都正常：假设 d 个维度相互独立，它们全部不误报的概率等于每个维度正常概率的连乘。

$$(1 - \alpha)^d$$

3. 至少一个误报：用 1 减去“全部正常”的概率，得到整个系统至少出现一次误报的总概率，维度越多越接近 1。

$$1 - (1 - \alpha)^d$$

回到体检的比喻——单变量检测就像只发一张“各指标是否超标”的清单，却把指标之间的联动关系全部扔掉了。它看不见“三个指标同时处于正常上沿”这种组合警报，更会在项目增多时频繁发出假警报，让医生疲于奔命。这正是我们需要多变量视角的原因。

联合分布视角

全科医生之所以比“单项体检”高明，是因为他看的不是一张张孤立的化验单，而是这些指标的组合模式。他关心的是：在同一个时刻，心率 85、血压 130/85、空腹血糖 5.8——这三者同时出现，是否符合一个正常人的画像？这种“整体画像”，在概率论里就叫联合分布。

对于 d 个特征 \(X_1, X_2, \dots, X_d\)，联合分布 \(P(X_1, X_2, \dots, X_d)\) 完整刻画了它们同时取值的规律。而单变量检测看的边缘分布 \(P(X_i)\)，只是联合分布在某一个维度上的“投影”——投影会丢失维度之间的关系。当特征相关时，即使所有边缘分布都不变，联合分布也可能面目全非。捕捉这种“关系”的核心工具是协方差矩阵：

$$\displaystyle \Sigma = \mathbb{E}\big[(X - \mu)(X - \mu)^{\mathsf{T}}\big]$$

1. 中心化处理：先把样本 \(X\) 减去均值向量 \(\mu\)，让数据围绕原点分布，消除整体偏移的干扰。

$$X - \mu$$

2. 外积展开：\((X-\mu)(X-\mu)^{\mathsf{T}}\) 得到一个 d×d 矩阵，对角线为各特征方差，非对角线为特征两两协方差。

$$(X-\mu)(X-\mu)^{\mathsf{T}}$$

3. 期望平均：对所有样本求期望，得到协方差矩阵 Σ，它就是联合分布线性相关结构的标准画像。

$$\mathbb{E}[\cdot]$$

有了这张“画像”，医生就能比较“现在的病人画像”和“健康基准画像”差多远。健康人的心率-血压协方差是一个方向，长期高压人群是另一个方向——同样的边缘分布，不同的联合结构。这就是多变量检测能发现单变量检测盲区的根本原因：它看的不是某个指标，而是指标之间的联动脉搏。

PCA降维核心

全科医生如果把体检项目扩展到 100 项、血液里几百种生化指标，他也会头晕。聪明的医生会先做“分科归纳”：把几十项心肺相关指标综合成“心肺功能”，把血糖、血脂、胰岛素综合成“代谢水平”。几个核心维度，就能覆盖身体的大部分状态。在数学里，这个归纳操作就叫主成分分析（PCA）。

在多变量漂移检测里，直接在高维空间计算距离会遇到“维度灾难”：维度越高，样本越稀疏，任意两点间的距离都趋于相等，距离度量彻底失效。PCA 的解法是：找到数据方差最大的几个方向（主成分），把数据投影上去，用低维近似代替高维。方差最大的方向，就是信息最丰富的方向。

数学上，第一个主成分方向 w 是下面优化问题的解：

$$\displaystyle \max_{w} \; w^{\mathsf{T}}\Sigma w \quad \text{s.t.} \quad w^{\mathsf{T}}w = 1$$

1. 投影方差：\(w^{\mathsf{T}}\Sigma w\) 是数据投影到方向 w 上之后的方差，PCA 希望它越大越好。

$$w^{\mathsf{T}}\Sigma w$$

2. 单位长度约束：\(w^{\mathsf{T}}w = 1\) 限制 w 是单位向量，避免模长无限增大导致方差虚高。

$$w^{\mathsf{T}}w = 1$$

3. 特征方程：用拉格朗日乘子法求解该优化问题，得到特征方程 \(\Sigma w = \lambda w\)，前 k 个最大特征值对应的特征向量就是前 k 个主成分。

$$\Sigma w = \lambda w$$

回到医生比喻——PCA 不是简单的“取平均”，而是根据数据本身的相关结构，自动找出最能代表整体状态的几个“核心维度”。在漂移检测中，我们把基准和当前数据都投影到这些核心维度上再比较位置，既压缩了维度，又保留了最重要的分布信息。

距离度量选择

医生拿到了病人的核心指标（血压偏高、心率偏快、血糖临界），该怎么量化“这个人和健康标准差多远”？直接算“血压差 10、心率差 10、血糖差 0.5，总差 20.5”？不行——血压的单位是 mmHg，心率的单位是 bpm，量纲不同，数值大小没有可比性；而且血压和心率本来就相关，分开累加会重复计算。

这就是距离度量要解决的问题。最朴素的欧氏距离只适合量纲统一、互不相关的空间，而真实特征分布不满足这个前提。马氏距离（Mahalanobis Distance）通过协方差矩阵的逆来“调整坐标系”：先去除特征间相关性，再按各自方差归一化，最后计算距离：

$$\displaystyle D_{M}^{2} = (x - \mu)^{\mathsf{T}}\Sigma^{-1}(x - \mu)$$

1. 偏差向量：\(x-\mu\) 表示新样本与基准分布均值之间的偏差，携带“偏了多少”的信息。

$$x - \mu$$

2. 逆协方差加权：\(\Sigma^{-1}(x-\mu)\) 用协方差矩阵的逆去缩放偏差，实现去相关和按方差归一化。

$$\Sigma^{-1}(x-\mu)$$

3. 二次型汇总：偏差向量与加权结果做内积，得到一个标量平方距离，数值越大代表偏离基准越远。

$$(x - \mu)^{\mathsf{T}}\Sigma^{-1}(x - \mu)$$

体检报告上，“综合偏差评分”把血压、心率、血糖放在同一把尺子上衡量——高血糖的 1 个单位不能和高血压的 1 个单位混为一谈，因为它们的方差尺度不同、彼此相关。马氏距离做的正是这件事：它在协方差结构下重新定义了“多远算远”。

检测流程设计

体检不是一次性的，而是“定期复查”。医生每次拿到新的体检报告，都跟之前的健康基准比较，看综合偏差评分是否超过警戒线。多变量漂移检测的线上流程，就是这套“定期复查”的自动化版本。

流程分四步：第一步，用健康期（通常是训练期）的数据拟合基准分布，得到均值 \(\mu\)、协方差 \(\Sigma\) 以及 PCA 投影；第二步，对线上数据开一个滑动窗口，窗口里缓存最近 W 个样本；第三步，把窗口内的每个样本变换到主成分空间，计算马氏距离平方，再取窗口平均，得到当前漂移分数；第四步，分数超过阈值 \(\tau\) 就触发告警：

$$\displaystyle \text{score}_t = \frac{1}{W}\sum_{i=0}^{W-1} D_{M}^{2}(x_{t-i}), \qquad \text{若 } \text{score}_t > \tau \text{ 则告警}$$

1. 窗口内样本：\(x_{t-i}\) 表示当前时刻 t 之前的第 i 个样本，W 个样本构成滑动窗口。

$$x_{t-i}, \quad i = 0, 1, \dots, W-1$$

2. 逐样本距离求和：对窗口内每个样本计算马氏距离平方后求和，体现整体偏离程度。

$$\sum_{i=0}^{W-1} D_{M}^{2}(x_{t-i})$$

3. 取平均并比较阈值：除以 W 得到窗口平均漂移分数，若超过 \(\tau\) 则触发告警；\(\tau\) 通常在基准数据上取高分位数来确定。

$$\frac{1}{W}\sum_{i=0}^{W-1} D_{M}^{2}(x_{t-i}) > \tau$$

阈值 \(\tau\) 就像医生划的那条“警戒线”：划得太低，体检者会被频繁叫回来复查，浪费资源；划得太高，真正的病人会被漏掉。工程上常用基准数据的分数分布来定，比如取 99 分位数，保证健康状态下误报率低于 1%。

高维工程实践

一家体检中心要高效运转，光有医生和公式还不够，还得有化验流水线、报告系统、复查排期。多变量漂移检测落地到生产环境，同样有一堆工程问题：特征几百上千维怎么算得动？告警之后怎么办？新模型上线没有健康数据怎么办？

工程实践的第一课是“算得动”。高维数据每天几十亿条，逐条计算马氏距离不现实。常用做法是：用 PCA 把维度压到几十维，预先计算并缓存降维矩阵、均值向量和协方差逆矩阵；窗口内的距离计算可以向量化批量执行。第二课是“看得见”：把漂移分数画成时间序列曲线，叠加阈值线和告警点，让值班同学一眼看出趋势。第三课是“接得住”：告警触发后要走“归因 → 决策 → 更新”的闭环——归因需要单变量检测辅助定位是哪个特征出了问题，决策是回滚模型还是重训，更新后要用新数据重建基准。

冷启动也是常见难题：新模型上线初期没有足够的“健康期”数据。这时先用一小批人工校验过的数据作为临时基准，随数据积累逐步用滑动基线替代——就像体检中心给新设备先做一轮校准，再进入正常排期。PCA 保留多少维度，可以用累计解释方差比决定：

$$\displaystyle R(k) = \frac{\sum_{i=1}^{k}\lambda_i}{\sum_{i=1}^{d}\lambda_i}$$

1. 前 k 个特征值求和：分子是前 k 个主成分对应特征值之和，代表降维后保留的方差总量。

$$\sum_{i=1}^{k}\lambda_i$$

2. 全部特征值求和：分母是所有 d 个特征值之和，代表原始数据的总体方差。

$$\sum_{i=1}^{d}\lambda_i$$

3. 比值判定：当 \(R(k)\) 达到 0.95 时，选 k 为主成分个数——在压缩维度和保留信息之间取平衡。

$$R(k) \geq 0.95$$

体检中心运营成熟后，每个环节都有标准动作：校准（基准）、检测（评分）、看板（可视化）、随访（模型更新）。多变量漂移检测的工程实践也是如此——它不是一个孤立的算法，而是一套可持续运转的监控体系，让 AI 系统在数据变化的大海中始终知道自己是否“偏离了航线”。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.decomposition import PCA  def block_cov(d, groups, rho):    """构造分组相关的协方差矩阵:组内相关系数为 rho,组间独立"""    cov = np.eye(d)    for g in groups:        for i in g:            for j in g:                if i != j:                    cov[i, j] = rho    return cov  def break_group(cov, group, new_rho):    """把某个特征组的相关系数整体替换为 new_rho,模拟相关性漂移"""    for i in group:        for j in group:            if i != j:                cov[i, j] = new_rho    return cov  class MultivariateDriftDetector:    def __init__(self, n_components=0.95, window_size=200, threshold=14.0):        self.n_components = n_components        self.window_size = window_size        self.threshold = threshold        self.pca = None        self.mean = None        self.cov_inv = None     def fit_baseline(self, X):        """用健康期数据建立基准:PCA 降维,并保存均值与协方差逆矩阵"""        self.pca = PCA(n_components=self.n_components)        Z = self.pca.fit_transform(X)        self.mean = Z.mean(axis=0)        cov = np.cov(Z, rowvar=False)        self.cov_inv = np.linalg.pinv(cov)     def detect(self, stream):        """滑动窗口检测:窗口内样本平均马氏距离平方超过阈值即告警"""        scores = []        window = []        for x in stream:            z = self.pca.transform(x.reshape(1, -1))[0]            window.append(z)            if len(window) > self.window_size:                window.pop(0)            if len(window) == self.window_size:                dists = []                for s in window:                    delta = s - self.mean                    dists.append(delta @ self.cov_inv @ delta)                scores.append(float(np.mean(dists)))        return scores  def main():    rng = np.random.default_rng(42)    d = 12    groups = [[0, 1, 2, 3], [4, 5, 6, 7], [8, 9, 10, 11]]    cov = block_cov(d, groups, 0.7)    baseline = rng.multivariate_normal(np.zeros(d), cov, size=2000)     detector = MultivariateDriftDetector()    detector.fit_baseline(baseline)     stream = []    for i in range(1000):        if i < 500:            x = rng.multivariate_normal(np.zeros(d), cov)        else:            broken = break_group(cov.copy(), groups[0], -0.3)            x = rng.multivariate_normal(np.zeros(d), broken)        stream.append(x)     scores = detector.detect(stream)    alarms = [i for i, s in enumerate(scores) if s > detector.threshold]    print("漂移分数样本:", [round(s, 2) for s in scores[:10]])    print("告警次数:", len(alarms))    if alarms:        print("首次告警样本:", alarms[0] + detector.window_size)  if __name__ == "__main__":    main()

1. cov = block_cov(d, groups, 0.7)构造带分组相关结构的数据，模拟真实场景中特征互相联动的现象
2. self.pca = PCA(n_components=self.n_components)在健康数据上拟合 PCA，降维矩阵只能从基准学习
3. delta = s - self.mean计算样本与基准均值的偏差，这是马氏距离的起点
4. dists.append(delta @ self.cov_inv @ delta)用逆协方差矩阵加权后求二次型，得到马氏距离平方
5. window.pop(0)窗口滑动的关键：挤掉最老的样本，永远只看最近 W 个样本
6. break_group(cov.copy(), groups[0], -0.3)只改变第一组特征间的相关系数，各特征的单维分布完全不变
7. if i < 500:前半段用基准分布生成数据，后半段发生“相关性漂移”，触发多变量告警

常见误区

面试题