主动学习：冷标注样本处理

可视化演示

展示哈希表的键值插入、哈希函数映射和链地址法冲突解决过程，支持切换插入与查找模式并调节操作速度。

冷启动困境

老陈站在店里，看着桌上那一千张传单，心里直打鼓：发给谁？隔壁烧烤店老板给他支了一招——“按门牌号挨家挨户塞就行了呗！”老陈知道这主意不靠谱：整条街三百户人家，挨家发一遍，一半传单会进了垃圾桶，真正愿意来尝鲜的人根本没收到几张。随机采样就是这样一种“挨家发传单”的笨办法：它在无标签的数据池里随便挑样本让人标注，运气好能碰上几个有用的，运气不好标了一百条还是教不会模型。

冷启动的本质是“鸡生蛋”的恶性循环：模型需要标注数据才能学会预测，可它还没学会预测，就没法判断哪些数据值得标注。那么，能不能用一条极小的“种子标注集”先让模型跑起来，让它自己开口说“我想看哪条数据”？这就是主动学习的起点——把“挑样本”的权力从人手里交给模型自己。主动学习框架会维护一个“未标注池”和一个“已标注集”，每一轮都让模型从池子里挑出最该被标注的样本，送去给人工打标签，然后把新标签塞回训练集，让模型长大一点，再去挑下一批。

衡量一个冷启动策略好不好，业界有一个直观的指标——标注效率比：随机采样需要 \(N_{\text{random}}\) 个样本才能达到的效果，主动采样用 \(N_{\text{active}}\) 个就做到了：

老陈想明白了：挨家发传单不叫营销，叫浪费。他决定换一套思路——先观察街上来往的人，再决定把传单递给谁。模型也该如此，先靠极少种子样本站起来，再自己挑食。

不确定性查询

老陈发现一个规律：那些在店门口踱步、反复看菜单、又掏出手机查点评的客人，最容易被一张传单打动。为什么？因为他们“心里没谱”——不确定这家店好不好吃，所以外界的任何一点信息都能推动他们做决定。不确定性查询正是抓住了这个心理：一个样本，如果模型对它的预测结果摇摆不定、糊里糊涂，那它带给模型的“信息增量”就最大。

什么叫“模型摇摆不定”？比如手写数字识别，一个样本的预测结果是“有 45% 像 3，有 45% 像 8，剩下 10% 像别的”，模型完全拿不准它是 3 还是 8。这时候只要请人标注一下，模型就能学会一个极具鉴别力的边界。相比之下，一个被模型以 99% 置信度判定为 7 的样本，标了也白标——它早就懂了。熵（Entropy） 是量化这种“糊涂程度”的经典工具，它统计模型在所有类别上的概率分布有多“平均”：

除了熵，工程上还常用边缘采样——只看模型预测概率最高的两个类别，两者差距越小说明越纠结；以及置信度阈值——凡是预测置信度低于某个门槛的样本统统进入待标注队列。老陈心里有了底：传单要发给“站在门口犹豫最久的人”。模型挑样本也一样，先找那些“最没把握”的。

代表性采样

可老陈很快就遇到了新问题：按“谁最犹豫”来发传单，确实拉来了一批客人，但这些人都是二十来岁的年轻人。口味清淡的老顾客、带着孩子的家庭、嗜辣重口的食客，一个都没进来。这是因为“最犹豫”的客人往往都扎堆在决策边界附近，长得都差不多，标一个就能代表一群——如果把预算全砸在他们身上，其他区域的样本就全被冷落了。

于是老陈又想：能不能在“犹豫的人”之外，再请一些“特别有代表性”的客人？比如街上那个天天跟邻居唠嗑的王大爷，他一个人就认识半条街的人，还知道每个人的口味。请了他，等于一次采访了半个街区。在数据世界里，这种“认识很多人”的样本叫代表性样本——它落在数据分布最稠密的区域，周围有大量相似的邻居，标了它，模型就能推断它周围一大片未标注样本的类别。

量化代表性最常用的方法是密度估计：数一数样本 \(x\) 周围有多少近邻，邻居越多，代表性越强。用 \(K\) 近邻的概念来表达，样本的代表性得分可以写作它到所有邻居相似度的平均值：

老陈的传单策略升级了：一半发给犹豫的人，一半发给王大爷这样的“社区节点”。模型也一样，有了不确定性还不够，还得参考代表性——请一个“认识很多人”的样本，等于同时请了它的一整个圈子。

多样性覆盖

又过了两周，老陈发现一个问题：他确实请了不少“社区节点”，可这些节点彼此也是熟人——王大爷认识的街坊，和李大妈认识的街坊，几乎全是同一拨人！传单发出去了，收获的点评却高度雷同。这就是多样性缺失的代价：如果选出的样本一个比一个相似，那么标注它们获得的信息就严重冗余，等于花钱请同一批人重复回答同一个问题。

多样性覆盖要求选出的这一批样本，彼此之间尽量“不撞脸”。数据版本里怎么做？两个手段：一是相似度去重——候选样本得分再高，如果和已经被选中的某个样本相似度超过阈值，就把它剔除或降权；二是类别配额——预先按类别分配标注名额，比如这一批要标 100 条，每个类别最多占 25 条，防止模型偏科。一个实用的小技巧是批次约束：不要一条一条地挑（那会导致连续选中一堆相似样本），而是每次“成批挑选”，一边挑一边实时更新已选样本集，让后续挑选自动避开“撞脸”的样本。

形式化表述：给定已选样本集 \(S\)，新候选样本 \(x\) 的多样性得分定义为它与 \(S\) 中所有样本的最小相似度——离“已选圈子”越远越好：

老陈现在懂了：请客不能只请一个圈子的，川菜、粤菜、甜品、轻食都得照顾到。多样性覆盖让这一批“被请进门的样本”尽可能覆盖整个数据空间的各个角落，不浪费一寸标注预算。

融合策略

到了第四周，老陈手里的策略已经有三套了：不确定性高的（犹豫的人）、代表性强的（人脉广的人）、多样性好的（圈子不重样的人）。可传单只有一千张，不可能三个方向各发一千张。现实中的老陈做了个决定：把三个维度按权重打个总分，每一项都评个分，然后加起来排序，选总分最高的进去。这就是主动学习里的融合策略。

在学术与工程实践中，最经典的融合方式是加权评分：给每个候选样本算一个综合得分 \(S(x)\)，它同时兼顾不确定性和代表性，再在批次挑选阶段加入多样性约束。一个常见的形式是：

其中 \(U(x)\) 是归一化后的不确定性得分（比如熵），\(R(x)\) 是归一化后的代表性得分，\(\lambda\) 是一个 0 到 1 之间的权重。这里的门道是分工：不确定性得分负责“挑难的”，代表性得分负责“挑典型的”，两者互补。如果只用不确定性，模型会一直盯着决策边界，忽视数据主体；如果只用代表性，模型会把大量标注预算花在早已学会的区域。

老陈最终的三维评分表，跟模型工程师手里的融合打分完全是一个道理：不迷信单一指标，而是让多个策略分工协作，再根据当前阶段动态调整优先级。犹豫的要请，典型的要请，不重样的更要请。

闭环验证

又过了两个月，老陈的店口碑终于热起来了。但他发现一件怪事：传单照发、客人照请，小店的口味却好像没什么进步了。后来他想明白了——店里的招牌菜已经基本定型，再请多少客人来试吃，也提不出让他惊艳的新建议了。该收手时就收手。

主动学习同样要面对“何时停止”的问题，这个不是拍脑袋决定的，而是有一套明确的停止准则。最常见的有三种：第一，预算耗尽——标注经费花光了，循环自然终止；第二，性能饱和——连续几轮新增标注后，模型在验证集上的准确率提升小于某个极小阈值（比如 0.5%），说明边际收益已经微乎其微；第三，不确定性枯竭——池子里剩余样本的熵普遍低于某个门槛，说明模型对它们都已胸有成竹。此时应该终止标注，把省下的预算留给下一个项目。

更关键的是，在每一轮循环中，模型并不是推倒重来，而是用增量训练的方式把新标注的样本吸收进已有模型——就像老陈不是每月关店重开，而是不断往菜单上加新菜。整个闭环流程可以概括为：种子训练 → 模型挑样本 → 人工标注 → 增量更新 → 再次挑选。通过这个循环，模型从最初只有十来个标注样本的“冷启动”状态，逐步过渡到覆盖大部分数据分布的“热运行”状态。如果用准确率曲线来刻画这个过程的边际收益：

老陈最后把传单预算砍掉了一半，因为店里的口碑已经足够撑起客源。主动学习项目落地时也一样，越到后期越要克制——懂得何时收手，才是冷标注样本处理最成熟的表现。

AI 应用场景

Python 演示

import numpy as npfrom sklearn.datasets import load_irisfrom sklearn.model_selection import train_test_splitfrom collections import Counter  class KNNClassifier:    def __init__(self, k=3):        self.k = k        self.X_train = None        self.y_train = None     def fit(self, X, y):        self.X_train = np.array(X)        self.y_train = np.array(y)     def predict_proba(self, X):        proba_list = []        for x in X:            d = np.linalg.norm(self.X_train - x, axis=1)            idx = np.argsort(d)[:self.k]            labels = list(self.y_train[idx])            cnt = Counter(labels)            total = sum(cnt.values())            proba_list.append([cnt.get(i, 0) / total for i in range(3)])        return np.array(proba_list)  def entropy_uncertainty(proba):    p = np.clip(proba, 1e-9, 1.0)    return -np.sum(p * np.log(p), axis=1)  def uncertainty_sampling(model, X_pool):    proba = model.predict_proba(X_pool)    scores = entropy_uncertainty(proba)    return np.argsort(scores)[::-1]  def random_sampling(X_pool, seed=42):    rng = np.random.default_rng(seed)    return rng.permutation(len(X_pool))  def run_round(model, X_pool, y_pool, order, budget):    for idx in order[:budget]:        new_x = X_pool[idx].reshape(1, -1)        new_y = np.array([y_pool[idx]])        model.X_train = np.vstack([model.X_train, new_x])        model.y_train = np.hstack([model.y_train, new_y])    proba = model.predict_proba(X_pool)    acc = (proba.argmax(axis=1) == y_pool).mean()    return acc  def main():    X, y = load_iris(return_X_y=True)    X_train, X_pool, y_train, y_pool = train_test_split(        X, y, train_size=0.1, stratify=y, random_state=42)     model_a = KNNClassifier(k=3)    model_a.fit(X_train, y_train)    acc_before = (model_a.predict_proba(X_pool).argmax(axis=1) == y_pool).mean()    print(f"种子训练集 15 条，初始准确率: {acc_before:.2%}")     order_a = uncertainty_sampling(model_a, X_pool)    acc_a = run_round(model_a, X_pool, y_pool, order_a, budget=30)    print(f"主动学习再标 30 条后准确率: {acc_a:.2%}")     model_b = KNNClassifier(k=3)    model_b.fit(X_train, y_train)    order_b = random_sampling(X_pool)    acc_b = run_round(model_b, X_pool, y_pool, order_b, budget=30)    print(f"随机采样再标 30 条后准确率: {acc_b:.2%}")  if __name__ == "__main__":    main()

1. X_train, X_pool, y_train, y_pool = train_test_split(...)把数据集分成“种子训练集”和“未标注池”，模拟冷启动状态。
2. model.fit(X_train, y_train)用极少种子样本训练 KNN 分类器，此时模型还很“笨”。
3. entropy_uncertainty(proba)计算每个池中样本的熵，熵越高代表模型越没把握。
4. np.argsort(scores)[::-1]按熵降序排列，得到最值得标注的样本索引序列。
5. run_round(model, X_pool, y_pool, order, budget=30)批量挑选前 30 个样本，模拟“送人工标注”并增量加入训练集。
6. model.X_train = np.vstack([model.X_train, new_x])KNN 的“增量训练”就是简单地把新样本追加进训练集并重新预测。
7. proba.argmax(axis=1) == y_pool用精度来度量这轮主动学习后的模型性能。

常见误区

面试题