清晨五点的批发市场,水果摊老板娘小美对着一千筐苹果发愁。她想学会“一眼挑出甜果子”的本事——可每筐苹果长得都差不多,只有咬一口才能知道甜不甜。问题是,咬过的苹果就卖不出好价了,一千筐全咬一遍,这一季就等于白干。 小美很快发现一个规律:她不用每个都咬,只需挑那些“看起来可疑”的果子试吃——青里带红、表皮有斑、手感发软的,往往最让她拿不准。奇怪的是,精准试吃几十个之后,她挑果子的水平竟然和把一千个全尝一遍差不多。 这个故事里,苹果是数据,咬一口是标注,小美的舌头是模型。主动学习(Active Learning)就是这个聪明摊主的试吃策略:不闭眼乱标,而是每轮都挑“最能让模型进步”的样本去标注,把标注预算花在刀刃上。这篇文章会陪你算三笔账——凭啥能省、省多少、怎么向老板证明省下的真金白银。

岗位关联

对 AI 从业者的职业价值:掌握成本效益曲线与 ROI 的量化方法,你就能用数据说服决策者,把标注预算花在最有价值的样本上,掌握主动学习落地的最后一公里。

目录
  1. 可视化演示
  2. 主动学习原理
  3. 理论节省分析
  4. 成本效益曲线
  5. 成本对比评估
  6. 查询策略性价比
  7. ROI计算
  8. 实践建议
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

动态演示主动学习怎么省钱?标注成本优的核心机制,通过概览/流程/对比/趋势四种模式展示关键概念与交互流程。

本节配有交互动效(进入视口后自动加载,约 3KB)。

主动学习怎么省钱?标注成本优:主动学习 主动学习减少标注量的理论分析与 标注成本与模型性能的成本效益曲 核心机制可视化 主动学习怎么省钱?标注成本优整体架构与关键组件

主动学习原理

小美第一天试吃是闭着眼乱咬,第二天她学聪明了:专挑那些“青里带红、斑点若隐若现”的果子。因为这些果子最让她拿不准——咬一口得到的答案,最能颠覆她之前的判断。而那些又红又大、一看就甜的果子,咬不咬都知道结果,何必浪费那一口?

这个“挑拿不准的咬”的动作,就是主动学习的灵魂。模型先在一个小标注集上热身,然后对剩下的大量未标注数据逐个“犯嘀咕”:这个样本我只有 60% 把握,那个我有 95% 把握。它会优先把最没把握的样本送给人来标注,拿到新标签后重新训练,再进入下一轮查询。这个“训练→查询→标注→再训练”的循环,就是主动学习的迭代训练循环。

怎么量化“拿不准”?常用工具是信息熵。一个样本的类别概率越均匀,熵越大,说明模型越糊涂,越值得标。三大主流查询策略由此而来:不确定性采样(选最糊涂的)、代表性采样(选最能代表整体的)、多样性采样(避免扎堆在同一个小区域)。

小美后来发现,这套“先热身、再挑可疑的咬、咬完更新手感”的循环,让她隔天进货的速度快了十倍——因为她不再浪费任何一口在“早就知道答案”的果子上。

H(x)=−∑y∈Yp(y∣x)log⁡p(y∣x)\displaystyle H(x) = -\sum_{y \in Y} p(y \mid x) \log p(y \mid x)
信息熵衡量模型对一个样本“有多纠结”——熵越大,越值得花标注费。
  1. 取类别概率模型对样本 \(x\) 预测出每个类别 \(y\) 的概率,概率越均匀说明越拿不准。
    p(y∣x)p(y \mid x)
  2. 逐类加权取对数把每个类别的概率乘以它的对数,让“低概率但存在”的类别也有贡献。
    p(y∣x)⋅log⁡p(y∣x)p(y \mid x) \cdot \log p(y \mid x)
  3. 求和并加负号对全部类别求和,取负号后熵恒为正,熵越大代表不确定度越高。
    H(x)=−∑yp(y∣x)log⁡p(y∣x)H(x) = -\sum_{y} p(y \mid x) \log p(y \mid x)

理论节省分析

小美开始琢磨:到底尝几个才能出师?隔壁摊主说,你舌头灵,尝 30 个就有数;换个舌头钝的,尝 100 个也白搭。这让她意识到,“省多少”这件事,是有理论规律的。

在机器学习里,这个规律叫样本复杂度:达到目标精度最少需要多少标注。理论分析通常用一条幂律曲线来描述模型性能随标注量增长的规律。主动学习不是改变终极上限——无论怎么选样本,数据里蕴含的信息总量就那么些——它改变的是“爬升速度”:让每条标签带来的进步更大,让曲线更快贴近上限。

这条曲线在工程上极其有用。你只需要在项目初期标一小批数据,拟合出当前任务的 \(A_{\max}\)、\(C\)、\(\alpha\),就能提前预判:这个任务值得上主动学习吗?理论上最多能省多少?如果数据噪声大、特征信息稀薄,模型怎么挑样本也榨不出多少油水,这就是理论边界。

小美把这条规律记在账本上:省多少,不取决于“咬得有多狠”,而取决于“舌头有多灵、果子本身有多少信息”。想清楚这点,她就不再盲目追求“全尝一遍”的安全感了。

P(N)=Amax⁡−C×N−α\displaystyle P(N) = A_{\max} - C \times N^{-\alpha}
模型性能随标注数 \(N\) 增长,最终逼近上限 \(A_{\max}\);\(\alpha\) 越大,爬得越快,主动学习的目标就是把 \(\alpha\) 变大。
  1. 极限精度上限\(A_{\max}\) 是数据信息量决定的天花板,无论怎么标都无法超越。
    Amax⁡=lim⁡N→∞P(N)A_{\max} = \lim_{N \to \infty} P(N)
  2. 数据难度常数\(C\) 反映任务本身有多难,任务越难,曲线整体越靠下。
    C>0C > 0
  3. 主动学习的效果把同样的标签数 \(N\) 换得更聪明,等价于让指数更大。
    αactive>αrandom\alpha_{\mathrm{active}} > \alpha_{\mathrm{random}}

成本效益曲线

小美连续七天记账,画出一条“试吃数量 vs 挑果准确率”的曲线:前 30 口,准确率噌噌往上涨;到第 60 口,曲线开始趴平;第 90 口之后,基本是一条平线。她恍然大悟:第 91 口的信息量,恐怕连第 10 口的十分之一都不到。

这就是边际效益递减。在主动学习里几乎一模一样:性能增长曲线是凹的,前期每批标签带来明显精度提升,后期每批标签只能换来零点几个百分点。于是引出一个关键决策——最优停止点:当“再标一批的边际收益”低于“花出去的成本”时,就应该果断收手。如果预算有限,那么停止点还要更靠前:预算约束线画在曲线上,交点就是你最多能标到的地方。

工程上,你可以每轮在固定验证集上测精度,算出相邻两轮的差值 \(\Delta P\),当它跌破阈值 \(\theta\) 就停。注意这个动作要连续观察几轮再做决定,防止单轮波动造成的误判。

小美把那条“趴平的尾巴”称作浪费区。后来她进货从不咬着尾巴走:省下的试吃成本,足够她再进一车新货。

ΔP(i)=P(i)−P(i−1)\displaystyle \Delta P(i) = P(i) - P(i-1)
第 \(i\) 轮相比第 \(i-1\) 轮的精度增量,就是这一轮标注的“边际收益”。
  1. 计算当前边际收益用本轮验证精度减去上一轮,差值越大说明这批标签越值。
    ΔP(i)=P(i)−P(i−1)\Delta P(i) = P(i) - P(i-1)
  2. 与阈值比较当增量小于预设的最小收益阈值,说明曲线已进入平台期。
    ΔP(i)<θ⇒停止\Delta P(i) < \theta \Rightarrow \text{停止}
  3. 叠加预算约束即使边际收益还够看,一旦累计成本超出预算线也必须停在交点。
    N×cunit≤BbudgetN \times c_{\mathrm{unit}} \le B_{\mathrm{budget}}

成本对比评估

月底算账,小美摆出两本账:全量标注是 1000 个果子全咬一口,每个果子损失一点卖相、还要搭上时间;主动学习是只咬 100 个聪明的果子。她发现,只要挑得准,两本账最后挑出的甜果比例差不多,但第二本账的支出只有第一本的零头。

把账本翻译成 AI 项目的语言,就是成本对比评估。首先定义单位标注成本 \(c_{\mathrm{unit}}\):它不只是外包单价,还包括内部质检、返工、工具平台的分摊。全量标注成本等于全部样本数乘以单价,主动学习成本等于实际标注数乘以单价,再加上额外的模型训练与查询计算开销。关键指标是节省率 \(S\)——主动学习相对全量标注省下了百分之多少的预算。

这里有个常见的坑:主动学习也有隐性成本。如果项目只有几千条数据、模型本身很便宜,那么搭建主动学习流程的工程成本可能超过省下的标注费。所以做对比时一定要算总账:省下的钱,减去多花的工程与训练钱,才是真正落袋的利润。

小美把两本账钉在墙上,得出一个结论:省钱的关键不是“少买”,而是“买得准”。全量标注是笨办法的保底,主动学习是把每一分标注费都花在刀刃上的精算。

S=1−CactiveCfull=1−NactiveNfull\displaystyle S = 1 - \frac{C_{\mathrm{active}}}{C_{\mathrm{full}}} = 1 - \frac{N_{\mathrm{active}}}{N_{\mathrm{full}}}
单价相同时,节省率直接等于标注数量的节省比例。标得越少,省得越多。
  1. 计算总成本标注总量乘以单位成本,得到全量标注与主动学习各自的总价。
    C=N×cunitC = N \times c_{\mathrm{unit}}
  2. 算节省率用 1 减去主动学习成本与全量成本之比,得到预算节省比例。
    S=1−CactiveCfullS = 1 - \frac{C_{\mathrm{active}}}{C_{\mathrm{full}}}
  3. 折算成数量当单价一致时,成本比直接简化成标注数量比,直观好沟通。
    S=1−NactiveNfullS = 1 - \frac{N_{\mathrm{active}}}{N_{\mathrm{full}}}

查询策略性价比

小美试过三种试吃法:闭眼乱咬(随机)、专咬看着怪异的(不确定度)、每个角落都咬一个(代表性)。她发现“专咬怪异”最划算,但也有翻车的时候——有些怪异果其实是烂心果,咬一口纯属浪费。于是她把两种方法混着用:七分挑怪异的,三分挑典型的。

在主动学习里,这几种方法各有身价。随机采样是最省事的基线,它的性能曲线就是全量标注的缩略版。不确定性采样性价比通常最高,但它有个致命弱点:容易被离群点带偏——模型对“长得不像正常数据的怪样本”会持续给出低置信度,你标了一批又一批,整体精度却纹丝不动。所以工业界更常用综合策略:不确定度打分乘以一个代表性/多样性系数,既挑“拿不准的”,也挑“不扎堆的”。

怎么量化比较策略的性价比?定义一个性价比指标 \(V\):每一轮用“本轮精度提升”除以“本轮投入成本”。投入不只是标注费,还包括查询和训练的计算成本。多轮平均后,哪个策略的 \(V\) 高,就说明同样的钱花在它身上最值。

小美最后定下规矩:每天进货先按“七分怪异、三分典型”的配方试吃,收摊前算一笔账,看看今天每咬一口换来多少甜果。这个配方,就是她比隔壁摊主多赚一倍的秘密。

V(q)=ΔP(q)clabel(q)+ccompute(q)\displaystyle V(q) = \frac{\Delta P(q)}{c_{\mathrm{label}}(q) + c_{\mathrm{compute}}(q)}
性价比 = 本轮精度提升 ÷ 本轮总花费。每花一块钱买到的精度提升越多,策略越值。
  1. 分子是精度提升\(\Delta P(q)\) 表示第 \(q\) 轮相对上一轮的精度增量,是这轮标注的“产出”。
    ΔP(q)=P(q)−P(q−1)\Delta P(q) = P(q) - P(q-1)
  2. 分母是全部投入标注费加上查询与训练的计算费,才是这轮真实的“成本”。
    c(q)=clabel(q)+ccompute(q)c(q) = c_{\mathrm{label}}(q) + c_{\mathrm{compute}}(q)
  3. 选最大值在多个候选策略中,取性价比最高的那个作为本轮查询方案。
    qbest=arg⁡max⁡qV(q)q_{\mathrm{best}} = \arg\max_{q} V(q)

ROI计算

季度末,小美拿着账本去找老公(也是投资人)要预算。账本上写着:主动学习方案投入成本 2 万元,如果按老办法全量标注要花 5 万元;省下的 3 万元再扣掉多花的算力电费,净赚 2 万 8。投入 2 万、赚回 2 万 8,这笔买卖年化回报高得惊人——这就是 ROI(投资回报率)。

ROI 计算的难点在“收益”怎么量化。最保守的口径:收益 = 全量标注成本 − 主动学习成本,这是账面上看得见的节省。更完整的口径还要加上:人力时间节省(标注团队提前几周收工)、模型上线加速带来的业务增量。投入成本要算全:标注费 + 质检返工 + 训练算力 + 工程改造成本,缺一项都会高估 ROI。

公式本身很简单,真正考验功力的是把分子分母都数清楚。汇报呈现时也很有讲究:不要只丢一个数字,而是给老板看“成本效益曲线 + ROI + 关键假设”,让他一眼看出这钱花得值。行业经验是 ROI 显著为正、且回本周期在一个迭代周期内,项目就值得立项。

小美的老公看了 ROI 表,当场批了一整年的预算。她说服老板的从来不是“感觉上省了”,而是一张算得清、经得起复核的账。

ROI=B−CC×100%\displaystyle \mathrm{ROI} = \frac{B - C}{C} \times 100\%
ROI 是“每投入 1 元能赚回多少百分比”。主动学习项目里,收益 B 通常是省下的标注预算。
  1. 核算总投入把标注、质检、算力、工程成本全部加进分母,缺项会虚高。
    C=Nactive×cunit+CopsC = N_{\mathrm{active}} \times c_{\mathrm{unit}} + C_{\mathrm{ops}}
  2. 量化总收益以全量标注成本为锚,加上人力节省和业务加速带来的增量。
    B=Cfull−Cactive+BbizB = C_{\mathrm{full}} - C_{\mathrm{active}} + B_{\mathrm{biz}}
  3. 计算回报率收益减去投入,再除以投入,换算成百分比展示。
    ROI=B−CC×100%\mathrm{ROI} = \frac{B - C}{C} \times 100\%

实践建议

经验攒够了,小美写了一份《摊主经营手册》,浓缩成三条铁律:新摊第一周先闭眼随机咬一小批建立手感,不能一上来就搞花活;连续几天发现咬一口获得的新信息变少了,立刻收手;每天收摊前在同一个固定果篮上测试自己的挑果准确率,记录成曲线。

这三条对应到主动学习的落地,就是最实用的方法论。第一条是冷启动策略:先随机标注 5%~10% 的数据训练基线模型,再进入主动查询循环——没有这个热身,模型的第一轮“犯嘀咕”完全不可靠。第二条是早停机制:连续 \(k\) 轮验证精度增量低于阈值就停止标注,判断要沉稳,别被单轮波动吓到。第三条是效果监控:在固定的验证集上追踪精度曲线和每轮标注收益,同时把标注质量抽检纳入流程,防止“挑出来的关键样本被标错”。

迭代管理上,还要控制计算成本:用增量训练、缓存 embedding 等方式避免每轮全量重训的算力浪费。手册的最后一条是沟通建议:定期把成本效益曲线同步给利益相关方,让大家看到每一轮标注的边际收益,而不是等到项目结束才汇报。

小美的手册后来被整条街的摊主抄了去。她总结成一句话:省钱不是靠抠门,而是靠一套“何时开口、何时收嘴”的纪律——主动学习落地,拼的也是这套纪律。

∀ j∈{1,…,k}, ΔPn−j<θ⇒第 n 轮停止\displaystyle \forall\, j \in \{1,\ldots,k\},\ \Delta P_{n-j} < \theta \Rightarrow \text{第 } n \text{ 轮停止}
连续 \(k\) 轮的边际收益都跌破阈值,才判定进入平台期,停止标注。
  1. 维护最近 k 轮收益把最近若干轮的边际收益都记在小本本上,作为判断依据。
    ΔPn−1, ΔPn−2, …, ΔPn−k\Delta P_{n-1},\ \Delta P_{n-2},\ \ldots,\ \Delta P_{n-k}
  2. 全部低于阈值才停取其中最大值都比阈值小,才说明曲线真正平了。
    max⁡{ΔPn−j}<θ\max\{\Delta P_{n-j}\} < \theta
  3. 连续观察防误判要求连续 \(k\) 轮而不是单轮,避免验证集波动引发早停。
    连续观察 k 轮,而非单轮\text{连续观察 } k \text{ 轮,而非单轮}

AI 应用场景

智能客服工单分类

阶段:数据准备与标注预算规划

解决的问题:传统做法把一年 100 万条历史工单全部打标,单价 0.4 元,光标注就是 40 万预算;且大量重复工单对模型毫无增量。用主动学习按“模型最没把握的工单”优先标注,只标 35 万条就达到同等准确率,省下 26 万元。

具体案例:某 SaaS 客服平台接入主动学习后,新增工单的自动分类准确率从 82% 提升到 91%,而标注预算从每季度 10 万降到 3.5 万。省下的钱转投给质检团队,把罕见投诉场景的标注质量又提了一档。

医疗影像病灶筛查

阶段:数据采集与难例挖掘

解决的问题:病理切片中病灶区域占比不足 5%,全量标注时医生 95% 的时间都在标正常组织。主动学习优先把“模型判断模糊”的切片送给病理医生精标,标注量下降 60%,模型对早期病灶的召回率反而从 78% 升到 86%。

具体案例:某三甲医院与 AI 团队合作,用不确定性采样从 5 万张切片中筛出 8 千张“最可疑”切片请求医生复核,把医生阅片时间压缩了一半,同时误诊率明显下降。

自动驾驶长尾场景挖掘

阶段:数据闭环与主动补标

解决的问题:路测采集的 5000 万帧画面里,雨雾、逆光、异形车等长尾场景占比极小,随机抽取根本抽不到。主动学习自动筛出模型置信度低的帧,优先送入标注产线,用 5% 的标注量覆盖了 80% 的难例。

具体案例:某自动驾驶公司每季度用主动学习选出 20 万帧“模型最困惑”的数据补标,再放入训练集,使 corner case 的检测率在一个季度内提升 12%,标注预算同比节省 320 万元。

Python 演示

python71 行
import numpy as npfrom sklearn.datasets import make_moonsfrom sklearn.linear_model import LogisticRegressionfrom sklearn.metrics import accuracy_score # 生成模拟的"水果池": 1000 个未标注样本np.random.seed(0)X, y = make_moons(n_samples=1000, noise=0.3, random_state=42)pool = np.arange(len(X))UNIT_COST = 2.0   # 每个标注单价(元)BATCH = 10        # 每轮查询 10 个样本QUOTA = 120       # 预算最多可标 120 条SEED_N = 5        # 冷启动随机标签数  def evaluate(label_idx):    # 用已标注数据训练并返回全量精度    model = LogisticRegression(max_iter=500)    model.fit(X[label_idx], y[label_idx])    return accuracy_score(y, model.predict(X))  def random_query(label_idx, k=BATCH):    # 基线策略: 随机挑选未标注样本    rest = [i for i in pool if i not in label_idx]    return np.random.choice(rest, k, replace=False)  def uncertainty_query(label_idx, k=BATCH):    # 主动学习: 优先选模型置信度最低的样本    model = LogisticRegression(max_iter=500)    model.fit(X[label_idx], y[label_idx])    conf = model.predict_proba(X).max(axis=1)    rest = [i for i in pool if i not in label_idx]    rest.sort(key=lambda i: conf[i])    return np.array(rest[:k])  def run(strategy):    # 返回 [(已标注数, 精度), ...] 的成本效益曲线    labels = list(range(SEED_N))    accs = []    while len(labels) < QUOTA:        labels = labels + list(strategy(labels))        accs.append((len(labels), evaluate(labels)))    return accs  def cost_to_reach(accs, target):    # 达到目标精度所需的最少标注数    for n, acc in accs:        if acc >= target:            return n    return accs[-1][0]  random_curve = run(random_query)active_curve = run(uncertainty_query)target = max(active_curve)   # 以主动学习最终精度为目标random_needed = cost_to_reach(random_curve, target)active_needed = active_curve[-1][0] active_cost = active_needed * UNIT_COSTrandom_cost = random_needed * UNIT_COSTsaved = random_cost - active_costroi = saved / active_cost * 100.0 print("目标精度: %.4f" % target)print("随机采样需要 %d 条, 主动学习只需 %d 条" % (random_needed, active_needed))print("主动学习成本: %.0f 元, 全量/随机成本: %.0f 元" % (active_cost, random_cost))print("节省预算: %.0f 元, ROI: %.1f%%" % (saved, roi))
目的:在同一份数据上对比“随机采样”与“不确定性采样”的成本效益曲线,算出达到相同精度时主动学习省下的预算和 ROI。
  1. pool = np.arange(len(X))给 1000 个样本编上号,像给水果贴标签,方便后续按索引挑选。
  2. UNIT_COST = 2.0设定每条标注的单价,这是后续所有成本计算的地基。
  3. conf = model.predict_proba(X).max(axis=1)取每个样本的最大类别概率,置信度越低说明“越可疑”。
  4. rest.sort(key=lambda i: conf[i])把未标注样本按置信度从低到高排序,让最可疑的排在队首。
  5. labels = labels + list(strategy(labels))迭代训练循环的核心:每轮追加一批新标签,再重新训练。
  6. accs.append((len(labels), evaluate(labels)))记录成本效益曲线上的一个点:此刻的标注量和精度。
  7. target = max(active_curve)用主动学习达到的最终精度作为两种策略的共同对标目标。
  8. saved = random_cost - active_cost同一精度下,全量/随机要花的钱减去主动学习花的钱,就是账面节省。
  9. roi = saved / active_cost * 100.0把节省换算成 ROI 百分比,这就是向老板汇报的核心数字。

常见误区

误区主动学习既然能省 70% 的标注,那我直接把标注量砍到原来的 20%,不就省得更多?追求极致的压缩率,把预算一压再压。

正解省钱的前提是性能不掉。压缩标注量一旦越过性能悬崖——样本覆盖不足、稀有类别根本没标到——模型精度会断崖式下跌,返工成本反而更高。最优压缩率不是“越狠越好”,而是成本效益曲线拐点附近的位置,通常省 50%~80% 是安全区间,具体要看数据分布和验证集曲线。

为何常见:看到“省 70%”的标题就以为省钱和压缩量是线性关系,忽视了主动学习的目标是“同等精度下少标”,而不是“无限制少标”。

误区想省标注钱,那就把标注任务从专业团队换成便宜的众包平台,这不就是主动学习吗?

正解这是两码事。主动学习解决的是“标哪些样本”,众包解决的是“找谁来标”,两者完全正交。主动学习选出的是决定模型上限的关键样本,如果换用低质量标注把这些关键样本标错,策略就会失效。正确姿势是:用主动学习减少数量,同时保证每个标签的质量,必要时把省下的钱拿出一部分做质检抽检。

为何常见:把“降低成本”和“减少标签数”混为一谈,忽视了标签质量对模型上限的直接影响。

误区主动学习就是每次选模型最没把握的样本去标,只要不确定性采样用得好,其他策略都不需要。

正解不确定性采样确实性价比高,但它有个盲区:模型对离群点和长尾数据会持续给出低置信度,导致标注预算被“怪样本”吸干,整体精度却纹丝不动。工业界通常用综合策略——不确定度乘以代表性/多样性系数,既挑“拿不准的”,也挑“不扎堆的”,才能把每轮性价比 \(V\) 抬上去。

为何常见:直觉上“拿不准的才值得标”很有道理,但忽略了这些拿不准的样本可能大量聚集在分布边缘,并不代表整体。

误区预算表上写得很清楚:标注单价 0.5 元 × 10 万条 = 5 万元,主动学习把这 5 万省下来就是全部收益。

正解真实标注项目的成本结构远比这复杂:不合格标签的返工重标、质检人力、标注工具平台费用、主动学习每轮迭代的模型训练算力,全都要计入。经验数据是质检返工通常占总成本的 20%~40%。ROI 的分子分母都要算全账,只算“标注单价 × 数量”,会让你高估收益、预算超支。

为何常见:单价 × 数量是账面上最显眼的数字,隐藏的质检、返工、算力成本看不见,自然容易被忽略。

面试题

Q1. 主动学习最核心的目标是什么?

单选题 · easy

  • A.减少模型训练时间
  • B.用更少标注保持精度← 正确答案
  • C.自动生成高质量标签
  • D.提高数据存储的效率

答案:B。主动学习本质是查询策略问题:挑选最有价值的未标注样本让人标注。它确实可能顺带减少训练时间,但核心目标是“用更少的标注量达到与全量标注相当的性能”。生成标签是半监督学习的范畴,存储效率更与本主题无关。

Q2. 最常用的主动学习查询策略是?

单选题 · easy

  • A.随机采样基线策略
  • B.不确定性采样策略← 正确答案
  • C.分层均匀采样策略
  • D.全量标注兜底策略

答案:B。不确定性采样优先选择模型置信度最低(熵最大)的样本,是小美“挑最可疑的果子咬”的算法版本,也是工业界最常用的策略。随机采样是评估用的基线而非最优策略;分层采样是一种抽样方法,不是主动学习的核心策略。

Q3. 成本效益曲线中的“边际效益递减”指的是?

单选题 · mid

  • A.标注单价会越来越低
  • B.新增标签收益递减← 正确答案
  • C.模型训练速度变慢
  • D.数据采集难度增加

答案:B。边际效益递减指每新增一批标注带来的精度提升越来越小,曲线呈凹形,这正是最优停止点存在的前提。标注单价是商务条件,训练速度和采集难度都与“标注量的精度收益”无关。

Q4. 成本效益曲线的最优停止点通常位于?

单选题 · mid

  • A.性能曲线的起点处
  • B.模型精度最高处
  • C.边际收益趋平处← 正确答案
  • D.标注预算耗尽处

答案:C。最优停止点应选在“边际收益从明显转向趋平”的拐点附近,此时继续标注的产出已不值投入。精度最高处往往在平台期尾巴,多花 30% 预算只换来 0.5% 精度;预算耗尽是被迫停止,不是最优选择。

Q5. 主动学习花费 2 万元、全量标注需要 5 万元,ROI 是多少?

单选题 · mid

  • A.50%
  • B.100%
  • C.150%← 正确答案
  • D.250%

答案:C。ROI = (收益 − 成本) / 成本 × 100%。收益 = 全量成本 5 万 − 主动成本 2 万 = 3 万,ROI = (3 − 2) / 2 = 150%。注意收益和成本要口径一致,不能把收益直接当成毛利。

Q6. 不确定性采样会给哪类样本更高优先级?

单选题 · easy

  • A.预测概率最高的样本
  • B.预测置信最低的样本← 正确答案
  • C.出现频率最高的样本
  • D.随机抽取产生的样本

答案:B。不确定性采样用熵或 1 − max 概率度量“模型有多拿不准”,置信度最低的样本信息量最大、最值得标。概率最高的样本反而说明模型已经很有把握,标了也难有增量。

Q7. 用幂律 P(N) 拟合精度曲线时,主动学习通常带来什么变化?

单选题 · extreme

  • A.精度上限显著抬升
  • B.学习速率明显变大← 正确答案
  • C.难度常数变为负数
  • D.三个参数保持不变

答案:B。主动学习改变的是“每条标签的学习效率”,即幂律中的指数 α 变大,让曲线更快逼近上限;终极上限 A_max 由数据本身的信息量决定,两种策略殊途同归。难度常数 C 恒为正,参数全不变则说明主动学习没有生效。

Q8. 以下哪些属于主动学习的查询策略?

多选题 · mid

  • A.不确定性采样← 正确答案
  • B.代表性采样← 正确答案
  • C.多样性采样← 正确答案
  • D.随机梯度下降

答案:ABC。查询策略三大流派分别是不确定性(挑拿不准的)、代表性(挑能代表整体的)、多样性(挑不扎堆的),实践中常组合使用。随机梯度下降是模型优化器,属于训练环节而非样本查询环节。

Q9. 核算主动学习成本时,应计入哪些费用?

多选题 · hard

  • A.标注人工单价← 正确答案
  • B.质检与返工成本← 正确答案
  • C.模型训练计算费← 正确答案
  • D.办公场地租赁费

答案:ABC。完整成本口径至少要含三类:直接标注费(单价 × 数量)、质量成本(质检抽检 + 不合格返工,通常占 20%~40%)、计算成本(每轮查询和模型训练的 GPU 费用)。办公场地属于公司固定运营成本,不因主动学习项目而新增,不应计入 ROI 分母。

Q10. 哪些做法能提升主动学习的性价比?

多选题 · hard

  • A.冷启动先随机标一批← 正确答案
  • B.边际收益低则早停← 正确答案
  • C.综合查询策略选样← 正确答案
  • D.一次性全量标注

答案:ABC。冷启动随机标 5%~10% 建基线模型,是后续不确定性采样可靠的前提;连续多轮边际收益低于阈值就早停,避免把预算花在平台期;综合策略(不确定度 + 代表性)能防止离群点吸干预算。一次性全量标注正是主动学习要替代的笨办法,与提升性价比背道而驰。