预测模型会怎么变：期望改变策略

可视化演示

动态演示预测模型会怎么变的核心机制，通过基础/核心/应用/扩展四种模式展示关键概念与交互流程。

一、核心原理：选“最能撬动模型”的样本

教练站在战术板前，面前是一沓试训球员的简历。有人推荐“这小子盘带最差，肯定问题最大”，但教练摇摇头——盘带差不一定说明问题，他想要的是：让这个人上场踢一场，全队的阵型、跑位、攻防转换都会被彻底推翻重来的人。因为只有巨大的战术动荡，才能暴露现有体系的盲区。这就是期望改变策略的第一性原理：查询的目标不是“样本难不难”，而是“标注它之后，模型会变多少”。

在主动学习的每一轮循环里，模型 \(f_\theta\) 像一个已经磨合完毕的战术体系，未标注池 \(\mathcal{U}\) 是一批等待试训的球员。传统的“不确定性采样”只看球员简历上的疑点（当前预测的置信度低），而期望改变策略要预测：把这位球员放进阵容后，战术板会被改写成什么样。改写幅度越大，这位球员带来的新信息越多。

形式上，期望改变策略为每个候选样本 \(\Delta(x, y)\) 表示“若标注得知其标签为 \(y\)，模型被改变的程度”，再按模型当前对标签的猜测概率加权：

这个公式的核心气魄在于：它不满足于“猜猜看”，而是对每一种可能的结果都预先推演一遍“模型会怎么变”。回到教练视角，这种策略选出的球员也许不是简历上最弱的，但一定是最可能让教练推翻自己战术认知的人——而这正是主动学习想要的“信息量”。

二、改变量计算：把“变化”变成可计算的数字

教练决定量化“战术变化”。他的做法是：假设这位球员是某种风格，让他和现有主力合练一场，然后对比训练前后全队每个位置的跑位图，把所有差异加起来。放到模型里，这个“合练”就是一次重训练，而“跑位图的差异”就是模型改变量。

最直接的改变量定义是参数改变幅度：重训前后的模型参数向量之间的距离 \(\|\theta' - \theta\|\)。但参数改变有时过于“全局”，实践中更常用的是输出改变量——在保留池 \(\mathcal{P}\)（一批代表性样本，可以就是未标注池本身）上，比较训练前后模型预测输出的平均差异：

教练发现，这套“合练对比法”虽然准确，但代价极高——每一轮试训都要重训一次全队。于是他想：有没有更省力的办法，不看全场跑位，只看这位球员的“杠杆系数”？这就引出了梯度。

三、梯度变化度量：用“杠杆系数”快速估算

教练想偷个懒。他发现，虽然不能预知球员上场后的实际化学反应，但可以看他简历里的一个关键指标：他在战术板上每挪动一步，全队有多少个位置需要跟着动。这个“连带反应系数”如果极大，说明他一旦融入，体系必然剧烈重组。对模型来说，这个系数就是梯度。

梯度 \(\nabla_\theta \ell(x, y; \theta)\) 刻画的是：损失函数对参数的敏感方向。如果某个样本的损失梯度范数很大，意味着把它纳入训练后，参数将被大力推离当前位置——这正是“模型改变”的一阶近似。于是得到著名的 EGL（Expected Gradient Length，期望梯度长度） 策略：

教练满意地发现，看“杠杆系数”比打完整场训练赛快太多了。但他也隐约意识到：杠杆大不等于球队变强——一个球员可能让全队阵型大乱，但越乱越输球。这就引出了期望改变与“变好”之间的微妙关系。

四、与期望误差减少的关系：变化大 ≠ 变好

球队顾问提了个尖锐的问题：“你要的是变化最大，但变化最大不一定是变好。万一这位球员让全队攻防体系崩溃呢？我们真正该关心的是引入他之后，球队的失球能不能变少。”这正是另一个经典策略——期望误差减少（Expected Error Reduction）——的出发点：选择能让重训后模型在未标注池上的期望误差最小的样本。

期望误差减少的目标写成：

期望改变与期望误差减少并非水火不容：在一阶近似下，让模型输出产生大改变的方向，往往也正是能让损失显著下降的方向；信息论视角下两者都在衡量“这个样本带来的信息量”。但它们有本质区别——期望改变只关心“动得多不多”，期望误差减少关心“有没有变好”。一个梯度极大的离群点可能让模型剧烈震动却毫无增益，这正是下一节要面对的现实难题。

五、计算复杂度：全场模拟的昂贵代价

教练如果真的对每个候选球员都打一场完整训练赛来测变化，会发现时间根本不够用：几十个候选 × 每种可能风格 × 全场攻防演练，一场赛季还没打完人就累垮了。期望改变策略的精确计算同样面临三重乘法式的昂贵代价。

设未标注池大小为 \(|\mathcal{U}|\)、类别数为 \(K\)、单次模型训练耗时为 \(T_{\text{train}}\)，则一次精确查询的总开销约为：

面对这种开销，纯粹的期望改变策略在大规模场景下几乎不可行。教练意识到，他需要在“精确但昂贵”和“粗糙但快速”之间做取舍——这正是近似计算登场的理由。

六、近似计算：聪明的偷懒艺术

教练最终采用了“聪明偷懒”的方案：不跑完整场训练赛，而是让球员做几组折返跑，用短距离冲刺的表现推测他的全场影响力。近似计算的思路完全一致——用局部、采样、单步的手段逼近真实的模型改变量。

最常用的三个近似手段：标签采样（枚举太多种标签，只采样少数几个最可能的）、单步梯度近似（不重训到收敛，只沿着梯度走一步）、局部线性化（假设损失函数在当前位置附近近似线性/二次，直接用切线代替完整曲线）。综合起来：

教练最终用“折返跑测试”完成了对所有候选球员的快速筛选，选出了那位最可能撼动战术体系的新人。期望改变策略的灵魂就在这种取舍之间：它追求的是“最值得被标注的样本”，而近似计算让它从理论走进工程实践，成为主动学习工具箱里一把锋利的手术刀。

AI 应用场景

Python 演示

import numpy as np  def make_pool(n=400):    rng = np.random.RandomState(42)    X = rng.randn(n, 2)    y = (X[:, 0] * 1.0 + X[:, 1] * 0.8 + X[:, 0] * X[:, 1] > 0).astype(int)    y = np.where(y == 0, -1, 1)    return X, y  class LogisticEGL:    def __init__(self, lr=0.1, iters=20):        self.lr = lr        self.iters = iters        self.w = None     def fit(self, X, y):        Xb = np.hstack([X, np.ones((X.shape[0], 1))])        self.w = np.zeros(Xb.shape[1])        for _ in range(self.iters):            p = self._prob(Xb)            grad = Xb.T @ (p - (y > 0).astype(float)) / len(y)            self.w -= self.lr * grad        return self     def _prob(self, Xb):        z = Xb @ self.w        return 1.0 / (1.0 + np.exp(-z))     def predict(self, X):        Xb = np.hstack([X, np.ones((X.shape[0], 1))])        return np.where(self._prob(Xb) > 0.5, 1, -1)     def egl_score(self, X_pool):        Xb = np.hstack([X_pool, np.ones((X_pool.shape[0], 1))])        p = self._prob(Xb)        scores = []        for i in range(X_pool.shape[0]):            grads = []            for yc in [0.0, 1.0]:                diff = (p[i] - yc) * Xb[i]                grads.append(np.linalg.norm(diff))            scores.append(p[i] * grads[1] + (1 - p[i]) * grads[0])        return np.array(scores)  def active_loop(rounds=8):    X, y = make_pool()    idx = np.arange(len(X))    rng = np.random.RandomState(0)    egl_labeled = rng.choice(idx, 4, replace=False)    rnd_labeled = egl_labeled.copy()    pool = np.setdiff1d(idx, egl_labeled)    acc_egl, acc_rnd = [], []    for _ in range(rounds):        m1 = LogisticEGL().fit(X[egl_labeled], y[egl_labeled])        acc_egl.append(np.mean(m1.predict(X) == y))        m2 = LogisticEGL().fit(X[rnd_labeled], y[rnd_labeled])        acc_rnd.append(np.mean(m2.predict(X) == y))        if len(pool) == 0:            break        s = m1.egl_score(X[pool])        pick_egl = pool[np.argmax(s)]        pick_rnd = rng.choice(pool)        egl_labeled = np.concatenate([egl_labeled, [pick_egl]])        rnd_labeled = np.concatenate([rnd_labeled, [pick_rnd]])        pool = np.setdiff1d(pool, [pick_egl, pick_rnd])    return acc_egl, acc_rnd  if __name__ == "__main__":    a_egl, a_rnd = active_loop(rounds=8)    print("EGL acc:", [round(v, 3) for v in a_egl])    print("RND acc:", [round(v, 3) for v in a_rnd])

1. y = np.where(y == 0, -1, 1)把标签转为 {-1, +1}，方便逻辑回归训练和梯度计算。
2. p = self._prob(Xb)计算每个样本属于正类的概率，这是后续梯度打分的基础。
3. grad = Xb.T @ (p - (y > 0).astype(float)) / len(y)逻辑回归的解析梯度：预测概率与真实目标的偏差乘以特征。
4. diff = (p[i] - yc) * Xb[i]对候选样本在假设标签 yc 下计算损失梯度，这正是 EGL 的核心“杠杆系数”。
5. scores.append(p[i] * grads[1] + (1 - p[i]) * grads[0])按模型当前预测的概率对两种标签下的梯度范数加权，得到期望梯度长度。
6. pool = np.setdiff1d(pool, [pick_egl, pick_rnd])每轮选完后从池中移除被选样本，保证两种策略使用相同的数据预算。
7. acc_egl.append(np.mean(m1.predict(X) == y))用全量数据评估当前模型精度，观察主动学习每轮选点带来的提升。

常见误区

面试题