主动学习：密度加权采样

可视化演示

展示SGD、Momentum、Adam三种优化器在损失曲面上的收敛轨迹，对比不同优化策略的收敛速度和稳定性，支持切换优化器模式和步进控制。

主动学习概述

老周的试吃名额只有 10 个，打电话叫同行帮忙也没用——专业品鉴师按小时收费，每尝一家店都得付钱。他总不能把几百家店全试一遍。聪明的做法是：先随便试几家，摸清整个街区的口味分布规律，然后根据已有经验，挑「信息量最大」的店接着试。这就是主动学习的本质：让模型自己决定下一个该学什么，而不是被动地等着喂数据。

在传统监督学习中，训练数据大多靠随机抽样标注，模型没得选。但真实业务里，几十万条未标注数据摆在那，人工标注又贵又慢。主动学习的做法是维护一个「查询策略循环」：先用少量已标注数据训练一个弱模型，让模型对未标注池里的每个样本打分，选出最有价值的样本交给人工标注，再把它纳入训练集重新训练。如此往复，用最少的标注预算撬动最大的模型性能。

$$D \leftarrow D \cup \{(x^{*}, y^{*})\}$$

1. 训练集 D：当前已经标注好的数据集合，相当于老周已经试吃完并写好评价报告的店铺清单。

$$D$$

2. 选中样本 x\*：查询策略挑出的「最值得标注」的样本点，相当于从候选清单里选出下一家要试吃的店。

$$x^{*}$$

3. 人工标注 y\*：人类专家给样本打上的标签，相当于品鉴师给出试吃评价。

$$y^{*}$$

4. 集合并运算 ∪：把新标注的样本并入训练集，使 D 变大，相当于把新店的评价报告装进档案夹。

$$D \cup \{(x^{*}, y^{*})\}$$

这样一来，「店越试越多、口味判断越来越准」的循环就转起来了。主动学习的全部学问，都浓缩在一个问题上：到底按什么规则给候选样本打分排序？老周的第一版答案天真又直白——哪家争议大选哪家。

不确定性采样

老周的第一版选店规则很简单：看点评平台上的口味评价，评分两极分化越严重（一堆五星配一堆一星）的店越值得试。理由很直接：评价一致说明口味稳定，试了也学不到新东西；评价分裂才说明这家店藏着模型判断不了的「意外」。这个直觉在机器学习里对应着最经典的查询策略——不确定性采样。

不确定性采样的逻辑是：训练完模型后，让模型对未标注样本做预测，最「拿不准」的样本优先标注。怎么量化「拿不准」？常用方法有三种：看预测最高概率有多低、看最高两个概率的差距（分类边距）有多小、看类别的熵有多大。最常用的是边距法：

$$u(x) = p_1(x) - p_2(x)$$

1. 最大概率 p₁(x)：模型认为样本 x 最可能属于的类别概率，相当于「店里好评率最高的口味方向」。

$$p_1(x)$$

2. 次大概率 p₂(x)：模型心中第二可能的类别概率，相当于「好评之下隐藏的第二口味方向」。

$$p_2(x)$$

3. 相减得到边距：两个概率越接近，边距越小，模型越分不清它们，说明这家店的「口味信号」真的矛盾。

$$p_1(x) - p_2(x)$$

靠这个规则选出来的样本，大多分布在模型决策边界附近，对提升模型精度确实立竿见影。但老周很快发现了 bug：他试了一家开在废弃工厂旁、周围五百米没有第二家饭馆的「孤岛重辣店」，评价确实吵翻天，可吃完发现，它的口味极端得毫无规律，既不代表川菜也不代表湘菜，对后续选店毫无参考价值。机器学习里这叫离群点，是纯不确定性采样最容易踩的坑——把宝贵的标注预算浪费在「与人无关的怪店」上。

密度加权思想

老周复盘后悟出一个道理：一家店值不值得试吃，不能只看「争议度」，还要看「周边的店多不多、人流旺不旺」。开在美食街上的店，口味风格自然会辐射到周围的同类店铺，试吃一家就能推断整片街区的偏好；开在荒郊野外的店，口碑再分裂也只是一家孤例。于是他把选店公式升级为：试吃价值 = 口味争议度 × 街区人流密度。

这正是密度加权采样的核心思想：给不确定性采样加一个「代表性」约束。候选样本不但要让模型困惑，还得处在特征空间中样本密集的区域，这样标注它的收益才能通过「邻居」扩散到一大片相似数据上。形式化地写，就是综合得分等于不确定性与密度的乘积：

$$s(x) = u(x) \times \rho(x)$$

1. 不确定性 u(x)：衡量模型对样本 x 的困惑程度，延续上一节的边距定义，等价于「口碑争议度」。

$$u(x)$$

2. 密度 ρ(x)：衡量 x 周围邻居的聚集程度，等价于「街区人流热度」，下一节会给出具体算法。

$$\rho(x)$$

3. 乘法连接：任何一项为 0，综合得分都是 0。争议再大但周围没人，价值归零；人流再旺但模型毫无困惑，同样不值得标注。

$$u(x) \times \rho(x)$$

这个乘积公式朴素却深刻。它回答了主动学习里的一个根本问题：什么叫「好的样本」？答案不是「模型最不懂的」，也不是「数据里最典型的」，而是既让模型困惑、又能代表数据分布的复合体。老周把这个公式写在工作室白板最上方，旁边配了行批注：别再做孤岛探店人。

密度计算方法

到这一步，老周需要把「街区的热闹程度」量化成能算的数字。他很快定下方案：以目标店铺为圆心，看离它最近的 k 家店的平均距离——平均距离越近，说明店铺越扎堆，密度越高。如果距离远得离谱，说明这家店开在餐饮荒漠里，密度趋近于零。

在数学上，这个直觉对应「k 近邻平均距离的倒数」。设样本 x 的 k 个最近邻为 x(1), x(2), …，x(k)，距离度量常用欧氏距离，则密度项为：

$$\rho(x) = \frac{1}{\varepsilon + \frac{1}{k}\sum_{i=1}^{k} d(x, x_{(i)})}$$

1. k 个最近邻：与 x 距离最近的 k 个样本，对应「离我最近的 k 家店」。k 是超参数，通常取 5~20。

$$k$$

2. 距离函数 d：计算两个样本点在特征空间中的欧氏距离，对应两家店之间的「真实距离」。使用前必须做特征归一化，否则量纲大的特征会霸占距离。

$$d(x, x_{(i)})$$

3. 平均距离：把 k 个邻居的距离求平均，得到「平均多远能找到一家同类店」。

$$\frac{1}{k}\sum_{i=1}^{k} d(x, x_{(i)})$$

4. 取倒数加常数 ε：平均距离越小，倒数越大，密度越高；ε 防止分母为 0，同时让极端聚集点不爆表。

$$\frac{1}{\varepsilon + \frac{1}{k}\sum_{i=1}^{k} d(x, x_{(i)})}$$

除了 k 近邻距离法，还有一种更直观的「半径计数法」：以 x 为圆心画一个半径 r 的圆，数一数圈里有多少个样本点，数量越多密度越大。半径计数法理解简单，但半径 r 不好调；k 近邻法对邻域尺度自适应，是工程上的主流选择。老周的街区热力图终于做出来了——他要做的，就是在这张热力图上叠加「口碑争议分布」，找出两者同时高亮的坐标。

批量采样技巧

老周现在是美食街的「首席选店师」，每次能拿到 10 个试吃名额。他发现一个尴尬问题：如果单纯按综合得分取 Top 10，这 10 家店很可能开在同一条街上甚至隔壁——试吃 1 家和试吃 5 家得到的信息几乎一样，名额被白白浪费。批量场景需要额外一重考量：多样性。

主动学习里的批量采样（Batch Mode）正面临同样的问题。每轮要选 b 个样本，不能机械地取分数最高的 b 个，而是要让选出的这批样本内部尽量互不相同，避免信息冗余。常见做法是引入「冗余惩罚」：每当一个样本被选中，就把它的分数分给它的邻居们「降温」，让附近相似度高的样本在下一轮评分中自动降权：

$$\tilde{s}(x) = s(x) - \lambda \sum_{x_j \in B} \mathrm{sim}(x, x_j)$$

1. 已选集合 B：当前轮次已经确定要标注的样本集合，对应「已经拿到试吃名额的店」。

$$B$$

2. 相似度 sim：两个样本在特征空间中的接近程度，可用距离的倒数或核函数刻画，对应「两家店风格有多像」。

$$\mathrm{sim}(x, x_j)$$

3. 惩罚总和：x 与所有已选样本的相似度总和。一条街上已选 5 家，周围店的惩罚就极重。

$$\sum_{x_j \in B} \mathrm{sim}(x, x_j)$$

4. 原始得分减去惩罚：每个候选样本从 s(x) 里扣掉冗余项。λ 调大，多样性更强；λ 调小，更偏向原始综合得分。

$$s(x) - \lambda \sum_{x_j \in B} \mathrm{sim}(x, x_j)$$

这个技巧让老周的选店覆盖了整条美食街的各个片区：甜水巷选一家重辣的，书院街选一家清淡的，南门桥选一家异国风味的。每轮试吃完更新口碑档案，重新训练「口味模型」，下一轮再出发。数据在没有冗余的情况下一点点积累，模型的视野逐渐覆盖全城。

采样效果评估

跑了三个月的试吃项目后，老周想验证一个关键问题：密度加权到底比纯不确定性多赚了多少？ 他把两种策略的试吃记录摊开对比，发现两组数据点的差异一目了然。纯不确定性采样的档案夹里堆满了孤独的怪店——口味的覆盖面东一块西一块；密度加权采样的档案夹则像一张完整的街区地图，每个区域都有代表性样本，每一类饮食风格都被均匀照顾到。

这种差异在机器学习评估中表现为三个可量化的指标。其一是样本效率：在相同标注预算下，密度加权策略训练出的模型通常比纯不确定性策略获得更高的测试精度，尤其在数据分布不均衡或存在大量离群点的场景下，差距会进一步拉大。其二是数据均衡性：纯不确定性倾向于反复纠结在决策边界附近的难样本，而密度加权通过「区域热度」天然把采样视线拉回主流数据区域，训练集的类别分布更接近真实分布。其三是模型鲁棒性：由于训练集不再混入大量「怪样本」，模型对噪声的抗干扰能力明显增强，部署到线上后预测波动更小。

实践中的典型收益是：在同样的 20~30 个标注样本预算下，密度加权比纯不确定性采样平均提升 3~8 个百分点的准确率，且这种优势随标注预算减少反而增大——预算越紧，每一发标注子弹越要打在密集目标区。老周把这个结论写成月度报告发给投资人，配了张图：两条学习曲线都在上升，但密度加权那条始终稳稳压在纯不确定性上面，像两条并行上行的山路，带密度权重的走得更快更稳。

工程实践要点

老周把三个月的经验提炼成了一份「选店 SOP」，贴在工作室墙上。第一条：k 值别拍脑袋。k 太小，比如 k=1，密度只看最近一位邻居，容易被偶然靠近的样本带偏；k 太大，比如 k=50，密度退化成全局平均值，区分度消失。工程上建议先用 k 近邻距离的分布直方图观察数据，取距离显著变化的拐点附近作为 k，通常落在 5~20 之间。

第二条：特征必须归一化。密度计算依赖距离，而欧氏距离对特征的量纲极其敏感。比如做客户分群时，「年龄」的波动范围是 0~100，而「年消费额」可能是 0~100000，直接算距离的话，年龄维度形同虚设，密度完全被消费额主导。用 StandardScaler 或 MinMaxScaler 把每个特征拉到同一尺度，是密度计算的地基工程。

第三条：不确定性度量要因模型而异。逻辑回归用分类边距、随机森林用置信度、神经网络用熵或 MC Dropout 估计，不同模型要选匹配的困惑度指标，但密度项的计算是通用的。最后还要记住：密度加权不是孤立策略，它可以与困难样本挖掘、类别平衡约束、核心集选择（Core-Set）等策略自由组合。老周的最后一条心得是：SOP 是死的，街区是活的，好顾问会看热力图微调参数，好工程师也会每轮采样后回头审查被选中样本的分布是否合理——毕竟采样策略服务于数据质量，而数据质量决定模型上限。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.datasets import make_moonsfrom sklearn.linear_model import LogisticRegressionfrom sklearn.metrics import accuracy_scorefrom sklearn.neighbors import NearestNeighbors  def score_samples(features, probs, k=5, eps=1e-6):    probs = np.sort(probs, axis=1)    margin = probs[:, -1] - probs[:, -2]        # 分类边距    uncertainty = 1.0 - margin                   # 边距越小, 不确定度越大     nn = NearestNeighbors(n_neighbors=k + 1)     # 多取1个, 因为第0个是自己    nn.fit(features)    dist, _ = nn.kneighbors(features)    density = 1.0 / (np.mean(dist[:, 1:], axis=1) + eps)  # k近邻平均距离倒数     def normalize(v):        return (v - v.min()) / (v.max() - v.min() + eps)     return normalize(uncertainty) * normalize(density)    # 两项乘起来  def active_learning(features, labels, budget=24, k=5, use_density=True):    labeled_idx = [0, 100]                        # 两类各预热一个样本    for _ in range(budget - 2):        model = LogisticRegression(max_iter=200)        model.fit(features[labeled_idx], labels[labeled_idx])        probs = model.predict_proba(features)         if use_density:            score = score_samples(features, probs, k=k)        else:            probs = np.sort(probs, axis=1)            margin = probs[:, -1] - probs[:, -2]            score = 1.0 - margin        score[labeled_idx] = -1.0                 # 已标注样本不再参与挑选        labeled_idx.append(int(np.argmax(score)))     model = LogisticRegression(max_iter=200)    model.fit(features[labeled_idx], labels[labeled_idx])    return accuracy_score(labels, model.predict(features)), labeled_idx  if __name__ == "__main__":    features, labels = make_moons(n_samples=200, noise=0.2, random_state=42)     acc_u, idx_u = active_learning(features, labels, use_density=False)    acc_d, idx_d = active_learning(features, labels, use_density=True)    print(f"uncertainty only  acc: {acc_u:.3f} ({len(idx_u)} labeled)")    print(f"density weighted  acc: {acc_d:.3f} ({len(idx_d)} labeled)")

1. uncertainty = 1.0 - margin分类边距越小，模型越纠结，不确定度越大，等价于「口碑争议度」。
2. nn = NearestNeighbors(n_neighbors=k + 1)建立 k 近邻索引，多取一个因为距离为 0 的自己不算邻居。
3. density = 1.0 / (np.mean(dist[:, 1:], axis=1) + eps)最近 k 个邻居的平均距离取倒数，再加小常数防除零。
4. normalize(uncertainty) * normalize(density)两项分别归一化到 0~1 后相乘，避免量纲不同导致某一边主导。
5. labeled_idx = [0, 100]用两个预热样本保证初始模型能训练（两类各一个），否则单类数据逻辑回归会报错。
6. score[labeled_idx] = -1.0已标注样本的分数设为负数，保证它们不会被重复选中。
7. make_moons(n_samples=200, noise=0.2, random_state=42)生成两个月牙形分类数据，带随机噪声，分布不均但无离群点。

常见误区

面试题