在戈壁滩上有一个世代相传的淘金部落。每到融雪季节，雪山融水裹挟着泥沙奔涌而下，淘金者们便架起溜槽，一铲一铲地筛洗河沙。然而部落里有一位老师傅，他对待淘金的态度截然不同——他会在河岸边蹲上整整三天，观察水流的缓急、砂砾的粗细，甚至用手捻一捻不同河段泥沙的触感，才决定在哪里下铲。他的徒弟不解地问：“师傅，大家都在拼命筛沙，你为何在这发呆？”师傅捻起一撮沙子，慢慢说道：“这条河里，真正的金砂不足万分之一。最累的淘金者，不是力气最大的，而是把每一瓢沙子都当作宝贝的人。找到那条含金量最高的矿脉，再动铲子，才是淘金的真谛。” 这个故事，正是“飞轮数据筛选与过滤策略”的生动写照。在人工智能的世界里，数据飞轮（Data Flywheel）每时每刻都在回流海量数据——它们像河水一样泥沙俱下。如果一股脑儿全部送给模型训练，不仅计算资源被低质数据白白消耗，模型还可能被噪声数据“带偏”。唯有学会评估数据价值、挖掘困难样本、过滤噪声、剔除低质数据、聪明地采样，才能让有限的算力训练出最优秀的模型，让飞轮越转越快。

岗位关联

这门知识是 AI 从业者的“淘金术”：学会在海量数据中精准识别高价值样本，直接决定你的模型效率，是数据飞轮能否“转起来”的关键分水岭。

目录
  1. 可视化演示
  2. 数据价值评估
  3. 困难样本挖掘
  4. 噪声数据过滤
  5. 低质数据剔除
  6. 主动学习采样
  7. 飞轮效率提升
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

动态演示飞轮数据筛选与过滤策略的核心机制，通过架构/数据/状态/性能四种模式展示关键概念与交互流程。

本节配有交互动效（进入视口后自动加载，约 3KB）。

飞轮数据筛选与过滤策略：一飞轮数 一、飞轮数据筛选的核心目标与价 二、困难样本挖掘与不确定性采样 核心机制可视化 飞轮数据筛选与过滤策略整体架构与关键组件

数据价值评估

淘金老师傅蹲在河边观察了三天，终于选定了一处水流回弯的河段——因为经验告诉他，金子比重大，容易在流速突变处沉积。他拿起探测器，不是每一处沙地都值得下铲，而是先判断“哪一瓢沙含金量更高”。这就是数据价值评估：在把数据喂给模型之前，先判断哪些样本值得投入标注预算和计算资源。

在机器学习中，不同样本对模型的贡献差异巨大。一个模型已经能完美分类的样本，就像一粒早已从沙里提纯出来的金砂，到手了也不增加新信息；而一个让模型“拿不准”的样本，则可能是一块藏在泥沙深处的狗头金。研究者提出“不确定性采样”（Uncertainty Sampling）策略——利用模型预测置信度衡量样本价值。置信度越低，模型越不确定，该样本提供的信息量就越大。

除了不确定性，样本的代表性和多样性同样重要。如果一瓢沙里全是同一种石英石，哪怕含金量再高，也有局限；高价值的数据集应当像一条丰富的矿脉，既要覆盖常见的“主矿层”（代表性），又要包含稀有的“伴生矿”（多样性）。综合三方面，可得：

实际操作时，我们可以按此公式给所有未标注样本打分，再按“价值密度”分层：高价值层（如最高的 5%）优先投入标注，低价值层（如最低的 30%）暂时搁置。这就像淘金者不会浪费力气筛洗每一瓢沙子，而是先用探测器锁定富矿区，再集中下铲。价值评估解决了“哪些数据值得处理”的问题，是飞轮筛选的第一道闸门。

Value(x)=(1−Pmax(y∣x))⏟不确定性+λ1⋅Div(x,S)⏟多样性+λ2⋅Rep(x)⏟代表性\text{Value}(x) = \underbrace{(1 - P_{\text{max}}(y \mid x))}_{\text{不确定性}} + \lambda_1 \cdot \underbrace{\text{Div}(x, S)}_{\text{多样性}} + \lambda_2 \cdot \underbrace{\text{Rep}(x)}_{\text{代表性}}
数据价值 = 模型对它的陌生程度 + 它与已有数据集的互补程度 + 它代表整体数据分布的程度。就像淘金时分别考量“黄金成色、矿脉稀有度、矿床规模”。
  1. 不确定性项模型预测各类别概率的最大值为 $P_{\text{max}}(y \mid x)$，越接近 1 说明模型越有把握。用 $1$ 减去它，得到“没把握的程度”。
    1−Pmax(y∣x)1 - P_{\text{max}}(y \mid x)
  2. 多样性项$\text{Div}(x, S)$ 衡量样本 $x$ 与当前已选集合 $S$ 的差异度，差异越大，新信息越多。$\lambda_1$ 控制多样性权重。
    λ1⋅Div(x,S)\lambda_1 \cdot \text{Div}(x, S)
  3. 代表性项$\text{Rep}(x)$ 衡量样本 $x$ 在整体数据分布中的典型程度。$\lambda_2$ 控制代表性权重。
    λ2⋅Rep(x)\lambda_2 \cdot \text{Rep}(x)

困难样本挖掘

矿脉总有挖尽的一天，但真正让淘金者一夜暴富的，往往是那些旁人忽略的“狗头金”——它们藏在矿洞最不起眼的角落。在数据世界里，这类样本被称为“困难样本”（Hard Examples）：模型在它们面前反复犯错、预测置信度低。它们是模型成长的阶梯，就像一面镜子，照出模型能力与真实世界之间的差距。

如何识别困难样本？最直接的方法是监控模型置信度。一个自信但答错的问题并不可怕，可怕的是模型在两个类别间摇摆不定、概率分布接近均匀。我们可以用预测概率计算困难度：

除熵值外，还可以追踪历史错误记录：如果一个样本在多次模型迭代中被反复预测错误，它就该进入“重点训练名单”。对困难样本，我们给予更高采样权重，让模型花更多精力“啃硬骨头”——就像球员加练点球一样，越不擅长的越要多练。困难样本挖掘解决了“哪些数据能带来突破”的问题，是筛选策略中杠杆最大的一环。

Difficulty(x)=−∑c=1CP(c∣x)log⁡P(c∣x)\text{Difficulty}(x) = -\sum_{c=1}^{C} P(c \mid x) \log P(c \mid x)
  1. 预测概率分布$P(c \mid x)$ 表示模型认为样本 $x$ 属于类别 $c$ 的概率，共 $C$ 个类别。
    P(c∣x)P(c \mid x)
  2. 信息熵求和计算该概率分布的熵。分布越均匀（接近 $1/C$），熵越高，模型越困惑。
    −∑c=1CP(c∣x)log⁡P(c∣x)-\sum_{c=1}^{C} P(c \mid x) \log P(c \mid x)

噪声数据过滤

如果说困难样本是藏有金砂的泥沙，那噪声数据就是混进金沙里的碎玻璃——它们看着闪光，却能毁掉你的成品。真实业务中，噪声主要源于标注错误：众包标注员的疏忽、自动化标注工具的误差、极端场景下的人工臆测，都会让标签偏离真实情况。模型学习这些错误标签，就像厨师按错误的菜谱做菜，越认真，成品越难吃。

过滤噪声的第一步是检测标签噪声。常见做法是训练一个“侦探模型”：先让它从干净数据上学到样本的典型特征，再对所有数据做预测。若某个样本的真实标签与侦探模型的预测严重冲突（例如真实标签是“猫”，但侦探模型有 95% 把握判定为“狗”），就有理由怀疑标签出错。冲突程度可用下式度量：

除了置信度冲突，离群点识别也是一道常规滤网：在特征空间中，远离绝大多数样本的孤立点，往往源于采集设备异常或标注流程错乱。对于标注类数据，众包交叉校验更稳妥——多个标注员标注同一批样本，取多数投票结果，并监控标注一致性分数。噪声过滤解决了“哪些数据会毒害模型”的问题，是飞轮体系的免疫系统。

NoiseScore(x)=1−P(ylabel∣x)\text{NoiseScore}(x) = 1 - P(y_{\text{label}} \mid x)
  1. 侦探模型预测$y_{\text{label}}$ 是样本 $x$ 当前的标签，$P(y_{\text{label}} \mid x)$ 是侦探模型对“该样本属于此标签”的预测置信度。
    P(ylabel∣x)P(y_{\text{label}} \mid x)
  2. 冲突度量$1 - P(y_{\text{label}} \mid x)$ 越接近 1，说明侦探模型越不认同原标签，该样本是噪声的嫌疑越大。
    1−P(ylabel∣x)1 - P(y_{\text{label}} \mid x)

低质数据剔除

噪声是“看起来对、实际错”的数据，而低质数据是“一眼就觉得不行”的数据——它们不致命，但会像沙粒一样拖慢整个淘金流程。低质数据有几种常见表现：特征缺失（如用户画像中年龄、性别字段为空，如同一块信息残缺的矿石难以分析）、时序错乱（如日志时间戳前后倒置，如同把不同年代的石块混入同一矿层）、内容重复（如同反复淘洗同一瓢沙，毫无增量价值）。

检查低质数据的四个维度是完整性、一致性、时效性和去重。完整性关注特征缺失率，缺失过高的样本直接剔除；一致性校验检查多个信息源之间的矛盾——例如用户行为日志和订单数据对同一次购买的记录是否吻合；时效性考察数据“新鲜度”，在电商大促、政策变动后，三个月前的用户偏好可能已经失效；去重通过哈希或向量相似度识别近似重复样本，保留最新且信息最全的一条。综合质量得分可定义为：

若某条数据在任一维度得分过低，就应从训练集剔除或送入人工复核。这套流程像果园的分拣线：完好无损的苹果装箱发货，有虫眼的送去榨汁，烂掉的直接淘汰。低质数据剔除解决了“哪些数据会拖慢训练”的问题，为飞轮腾出宝贵的算力空间。

Q(x)=w1⋅Completeness(x)+w2⋅Consistency(x)+w3⋅Freshness(x)+w4⋅Uniqueness(x)Q(x) = w_1 \cdot \text{Completeness}(x) + w_2 \cdot \text{Consistency}(x) + w_3 \cdot \text{Freshness}(x) + w_4 \cdot \text{Uniqueness}(x)
  1. 完整性$\text{Completeness}(x)$ 是非缺失字段占比，占比越高，信息越完整。
    Completeness(x)=非空特征数总特征数\text{Completeness}(x) = \frac{\text{非空特征数}}{\text{总特征数}}
  2. 一致性$\text{Consistency}(x)$ 是样本内部与外部交叉验证的通过比例。
    Consistency(x)=交叉验证通过数交叉验证总次数\text{Consistency}(x) = \frac{\text{交叉验证通过数}}{\text{交叉验证总次数}}
  3. 时效性$\text{Freshness}(x)$ 随数据年龄增大而衰减，旧数据得分低。
    Freshness(x)=exp⁡(−ageτ)\text{Freshness}(x) = \exp\left(-\frac{\text{age}}{\tau}\right)
  4. 唯一性$\text{Uniqueness}(x)$ 表示与已收集集合的最大相似度的反向惩罚，重复程度越高得分越低。
    Uniqueness(x)=1−max⁡x′∈S Sim(x,x′)\text{Uniqueness}(x) = 1 - \max_{x' \in S}\ \text{Sim}(x, x')

主动学习采样

淘金老师傅最珍贵的不是力气，而是经验——经验让他知道该在哪一段水流下铲。主动学习（Active Learning）就是给筛选装上“经验导航”：不再被动等数据回流，而是主动挑选最有价值的样本去标注，让每一份标注预算都花在刀刃上。

主动学习有多种采样策略。最经典的是“不确定性查询”（Uncertainty Query）：选模型最没把握的样本让专家标注。其次是“期望模型变化”（Expected Model Change）：选能让模型参数变化最大的样本——就像挖动土量最多、最可能改变矿层结构的那一铲。还有“版本空间缩减”（Version Space Reduction）：选能最大程度缩小候选假设空间的样本。综合策略通常还要平衡密度与多样性，保证采样覆盖面不扎堆。其目标可写成：

这个目标通常由启发式策略近似求解，但它给出了一把标尺：主动学习本质上是“用最少标注成本，换取最大模型提升”。在飞轮系统中，主动学习采样解决了“每一轮该优先喂哪些数据”的问题——就像老矿主不会把资金平均撒在每一个矿洞里。

S∗=arg⁡min⁡S⊂U,∣S∣≤BEx∼D[ℓ(x;θS)]S^* = \arg\min_{S \subset U, |S| \leq B} \mathbb{E}_{x \sim \mathcal{D}} \left[ \ell(x; \theta_S) \right]
  1. 预算约束$|S| \leq B$ 表示本轮最多标注 $B$ 个样本，这是主动学习的“预算红线”。
    ∣S∣≤B|S| \leq B
  2. 期望损失$\mathbb{E}_{x \sim \mathcal{D}} \left[\ell(x; \theta_S)\right]$ 表示用子集 $S$ 训练出的模型参数 $\theta_S$ 在真实数据分布 $\mathcal{D}$ 上的期望损失。
    Ex∼D[ℓ(x;θS)]\mathbb{E}_{x \sim \mathcal{D}} \left[\ell(x; \theta_S)\right]
  3. 最优子集在所有满足预算约束的子集中，选期望损失最小的那个，即 $S^*$。
    arg⁡min⁡S⊂U,∣S∣≤B\arg\min_{S \subset U, |S| \leq B}

飞轮效率提升

数据飞轮的本质是一套循环：模型上线 → 收集反馈数据 → 筛选高价值样本 → 重训模型 → 模型变强 → 收集到的数据更优质。每一圈循环并非均匀收益，筛选与过滤策略的终极目标，就是最大化每一圈的“效率增益”。

要提升飞轮效率，首先要优化数据配比。真实回流的数据中，大量是简单易学的样本，困难样本和多样本只占一小部分。若模型反复看到的都是 1+1 类问题，就永远无法进阶。因此需要人为调整样本配比，让模型每轮训练都保持“踮踮脚才够得着”的难度。其次要加速反馈环：用线上指标（如点击率、转化率、满意度）的变化速度调节筛选策略。指标提升变慢，说明当前数据池边际收益下降，应增加困难样本和主动学习的比例；指标异常下跌，则应收缩数据范围，优先回溯噪声与低质数据的过滤规则。

此外，一切筛选策略都有成本：标注困难样本要花钱、众包校验要花钱、人工复核要花钱。成熟的飞轮体系需要建立成本收益权衡模型——对每个筛选动作，计算其成本与预期效果提升的比值，优先执行“性价比高”的动作。最终，飞轮体系要依靠持续迭代评估来精进：每次模型更新后，都回归评测上一轮筛选策略的有效性——被过滤的数据真的不需要吗？留下的困难样本真的带来提升了吗？这些反思沉淀为下一轮改进方向。

回到淘金的比喻：最高效的淘金者不是力气最大的，而是对矿脉了如指掌的人。他知道哪段河流该下重铲、哪个矿层该放弃、哪里需要提前筑上滤网。飞轮数据筛选与过滤策略，就是为 AI 系统装上这样的“淘金直觉”——让数据价值最大化，让飞轮越转越快。

Efficiency=ΔMetricCost+λ⋅Latency\text{Efficiency} = \frac{\Delta \text{Metric}}{\text{Cost} + \lambda \cdot \text{Latency}}
  1. 效果增益$\Delta \text{Metric}$ 为模型在核心指标（如 AUC、准确率、点击率）上的提升幅度。
    ΔMetric\Delta \text{Metric}
  2. 成本考量$\text{Cost}$ 为筛选与标注总成本，$\text{Latency}$ 为数据回流延迟时间，$\lambda$ 为延迟惩罚系数。
    Cost+λ⋅Latency\text{Cost} + \lambda \cdot \text{Latency}
  3. 效率比用增益除以总开销，比值越高，飞轮运行越高效。
    ΔMetricCost+λ⋅Latency\frac{\Delta \text{Metric}}{\text{Cost} + \lambda \cdot \text{Latency}}

AI 应用场景

推荐系统数据飞轮

阶段：数据回流与筛选

解决的问题：推荐系统每天产生海量用户行为日志。若全量训练，算力消耗巨大，且大量低价值数据（如用户无意识滑过、停留极短的曝光样本）稀释训练信号，拖慢模型迭代。

具体案例：某短视频推荐团队在飞轮中加入“价值评估 + 困难样本挖掘”策略：对用户负反馈样本按模型置信度打分，重点保留模型困惑的样本（如观看时长中等、行为意图模糊的视频），并过滤高置信度假负样本。一个季度后，标注预算缩减 30%，CTR 预估准确率反而提升 2.1%。这就像淘金者不再费力淘洗每一瓢沙，而是先锁定最可能出金的河段。

大模型持续训练语料筛选

阶段：训练数据准备

解决的问题：大模型持续训练需要从互联网爬取的海量语料中筛选高质量文本。全量训练会混入广告、垃圾信息等噪声，以及重复、残缺的低质内容，严重损害模型能力。

具体案例：某大模型团队在语料流水线中部署“噪声过滤 + 低质剔除 + 去重策略”：用分类器识别并剔除广告文本，用 minhash 去除近似重复段落，按信息熵和非标准字符比例过滤低质文本。语料规模缩减至 40%，但训练出的模型在基准测试上困惑度下降 15%。如同果园分拣线只留下品相佳、甜度高的苹果，出品的果篮更受欢迎。

Python 演示

python67 行
import numpy as npfrom collections import Counter class DataGoldRush:    """数据淘金流水线：价值评估、困难挖掘、噪声过滤、低质剔除。"""     def __init__(self, data, labels):        self.data = data        self.labels = labels        self.value_scores = np.zeros(len(data))        self.difficulty_scores = np.zeros(len(data))        self.noise_scores = np.zeros(len(data))        self.quality_scores = np.zeros(len(data))     def value_assessment(self, model_preds):        """计算样本价值：不确定性 + 多样性"""        self.value_scores = 1 - np.max(model_preds, axis=1)        norm_data = self.data / (np.linalg.norm(self.data, axis=1, keepdims=True) + 1e-9)        sim_matrix = norm_data @ norm_data.T        self.value_scores += 0.3 * (1 - sim_matrix.sum(axis=1) / sim_matrix.shape[1])        return self.value_scores     def hard_mining(self, model_probs):        """用预测熵识别困难样本"""        self.difficulty_scores = -np.sum(model_probs * np.log(model_probs + 1e-9), axis=1)        return self.difficulty_scores     def noise_filter(self, pred_probs, labels):        """侦探模型标签冲突检测"""        self.noise_scores = 1 - pred_probs[np.arange(len(labels)), labels]        return self.noise_scores     def quality_check(self, missing_ratio, duplicate_flags):        """完整性 + 唯一性检查"""        self.quality_scores = (1 - missing_ratio) * 0.7 + (1 - duplicate_flags) * 0.3        return self.quality_scores     def select_top(self, budget):        """综合打分并筛选 top-B 样本"""        final_score = (            self.value_scores * 0.4            + self.difficulty_scores * 0.3            - self.noise_scores * 0.5            + self.quality_scores * 0.3        )        return np.argsort(final_score)[-budget:]  if __name__ == "__main__":    rng = np.random.default_rng(42)    N = 2000    labels = rng.integers(0, 5, size=N)    X = rng.normal(size=(N, 10))    model_pred_probs = rng.dirichlet(np.ones(5), size=N)    detective_probs = rng.dirichlet(np.ones(5), size=N)    missing = rng.binomial(1, 0.05, size=N)    dup_flags = rng.binomial(1, 0.1, size=N)     pipe = DataGoldRush(X, labels)    pipe.value_assessment(model_pred_probs)    pipe.hard_mining(model_pred_probs)    pipe.noise_filter(detective_probs, labels)    pipe.quality_check(missing, dup_flags)    selected = pipe.select_top(budget=200)    print("选中的样本编号（前 10 个）:", selected[:10])    print("选中样本数量:", len(selected))    print("选中样本的类别分布:", Counter(labels[selected]))
目的：完整模拟飞轮数据筛选流水线——价值评估、困难样本挖掘、噪声过滤、低质剔除四步走，最终用综合评分选出预算内的最优样本子集。
  1. class DataGoldRush:定义一个“数据淘金流水线”类，串联各环节评分与最终筛选。
  2. self.value_scores = np.zeros(len(data))初始化价值评分数组，后续各环节评分都会存入对应数组。
  3. self.value_scores = 1 - np.max(model_preds, axis=1)用“1 减最大预测概率”衡量不确定性，分布越均匀得分越高。
  4. sim_matrix = norm_data @ norm_data.T计算样本间余弦相似度矩阵，用于多样性惩罚。
  5. self.difficulty_scores = -np.sum(model_probs * np.log(model_probs + 1e-9), axis=1)信息熵公式实现，熵越高模型越困惑。
  6. self.noise_scores = 1 - pred_probs[np.arange(len(labels)), labels]侦探模型对原标签的置信度，越低越可能是噪声。
  7. self.quality_scores = (1 - missing_ratio) * 0.7 + (1 - duplicate_flags) * 0.3质量分 = 完整性与唯一性的加权和。
  8. final_score = ...将四路评分加权合成最终得分，噪声作为惩罚项取负号。
  9. np.argsort(final_score)[-budget:]取综合得分最高的 B 个样本，对应飞轮“优先标注富矿”逻辑。

常见误区

误区困难样本是模型进步的关键，所以应该把大部分困难样本全部塞进训练集，让模型往死里练。

正解如果训练集全是困难样本，模型会像只会做奥数题、不会做基础题的学生——遇到常规样本反而表现不稳。困难样本的价值在于“适当补充”而非“全部替换”。通常需控制困难样本在整体训练池中的占比，并搭配简单样本保持模型对常见分布的拟合能力。

为何常见：困难样本通常能带来明显的指标提升，容易让人误以为“越多越好”而忽略分布失衡风险。

误区设置一个置信度阈值，预测置信度低的样本都视为噪声，直接删掉就行。

正解置信度低既可能是噪声，也可能正是有价值的困难样本！用淘金来比喻：泥沙和狗头金都会让探测器读数“异常”。正确做法是区分“低置信度 + 标签冲突”与“低置信度 + 模型摇摆”：前者更像噪声，后者更像困难样本。否则会误杀大量高价值数据。

为何常见：低置信度是最容易计算的指标，人们习惯用最容易拿到的信号做粗暴决策。

误区数据去重就是找出完全相同的行，删到只剩一条，避免模型重复学习。

正解真实业务中大量“重复”是近似重复——比如两篇新闻稿只改了标题、两段用户日志仅时间戳不同。完全相同的行只占少数。用 minhash 或向量相似度可识别近似重复，但删除与否需结合场景：在类别不平衡时，关键类别的重复样本可能反而是需要保留的补充数据。

为何常见：教科书和开源工具常把去重定义为“删除完全相同的行”，让人忽略近似重复这一更普遍形态。

误区主动学习就是每轮选模型预测概率接近 0.5 的样本去标注，信息量最大。

正解只选最不确定的样本会让标注集中在小范围区域，丢失多样性。更合理的主动学习会同时考虑密度（代表性）与多样性，甚至用“期望模型变化”或“版本空间缩减”指导采样。只用不确定性是“贪心策略”，长期看会陷入局部最优。

为何常见：不确定性采样是主动学习最经典的入门算法，容易让人误以为它是唯一或最优策略。

误区模型效果提升靠加卡加算力，数据筛选只是锦上添花的预处理。

正解数据飞轮的核心是“数据质量 × 迭代速度”。同样一块 GPU，喂 1 万条高质量样本往往比喂 10 万条低质量样本效果更好。筛选策略直接决定每轮训练的信息量，也就是决定算力的使用效率。把筛选做好，等于免费获得好几倍算力。

为何常见：短期项目中加算力的收益立竿见影，而数据筛选的效果需多轮迭代才显现，因此容易被忽视。

面试题

Q1. 数据价值评估中，“不确定性采样”的核心思想是指：

单选题 · easy

  • A.选择模型预测概率最高的样本
  • B.选择模型预测概率最平均的样本← 正确答案
  • C.随机选择样本进行标注
  • D.选择重复出现次数最多的样本

答案：B。不确定性采样选择模型最没把握的样本，即预测概率分布最均匀（最大概率偏低）的样本。选项 A 选的是模型最有把握的样本，信息量最低；C 是随机采样；D 与价值评估无关。就像淘金时优先挖探测器反应最异常的地点，而不是挑已经看得清清楚楚的地方。

Q2. 困难样本的信息熵越高，说明：

单选题 · easy

  • A.模型对该样本的分类非常自信
  • B.该样本大概率是噪声数据
  • C.模型对该样本的类别判断越犹豫← 正确答案
  • D.该样本一定需要被过滤掉

答案：C。信息熵衡量概率分布的不确定性。熵越高，表示模型在各类别上的预测概率越均匀，即模型越犹豫。选项 A 与熵高矛盾；B 混淆了困难样本与噪声；D 过于绝对——困难样本恰恰需要保留训练。

Q3. 以下哪些属于低质数据的特征？

多选题 · mid

  • A.特征缺失率过高← 正确答案
  • B.数据标签与真实情况不一致
  • C.数据时间戳混乱、逻辑矛盾← 正确答案
  • D.数据内容高度重复← 正确答案

答案：ACD。低质数据包括完整性缺失（A）、一致性与时效性问题（C）、近似重复（D）。而 B 描述的是标签噪声，属于噪声数据过滤的范畴。两者需要分开处理，因为噪声是“标签错”，低质是“数据本身不行”。

Q4. 使用“侦探模型”进行噪声检测时，核心依据是：

单选题 · mid

  • A.样本特征缺失数量
  • B.样本在特征空间中的孤立程度
  • C.侦探模型预测与原标签的冲突程度← 正确答案
  • D.样本产生的时间先后顺序

答案：C。侦探模型先学习干净数据，再对样本做预测。若它对原标签置信度很低，说明标签可能出错。选项 A 属于完整性检查；B 是离群点识别，虽可用于噪声过滤，但不是侦探模型的核心理念；D 是时效性判断。

Q5. 主动学习中“不确定性查询”策略适合解决的问题是：

单选题 · easy

  • A.训练数据太多导致显存不足
  • B.标注预算有限且未标注池庞大← 正确答案
  • C.模型过拟合训练集
  • D.模型推理速度慢

答案：B。主动学习的典型场景是“未标注数据很多，标注预算有限”，通过挑最有价值的样本标注来节约成本。A 属于工程优化；C 需正则化或数据增强；D 是模型压缩问题。就像淘金者预算有限时，不会把所有河沙都筛一遍，只挑最可能出金的区域。

Q6. 关于数据配比优化，以下说法正确的有：

多选题 · hard

  • A.困难样本占比越高越好
  • B.需要控制困难样本与简单样本的比例← 正确答案
  • C.应根据模型当前表现动态调整配比← 正确答案
  • D.数据配比在训练开始时确定后不再调整

答案：BC。数据配比优化的核心是“适当增加困难样本但保留基础样本”（B 正确），并根据模型表现动态调整（C 正确）。A 会导致基础能力退化；D 忽略了飞轮场景中模型不断进化的特性。就像教练训练运动员，既要有高难度动作练习，也要保持基础体能训练。

Q7. 飞轮效率公式中，$\Delta \text{Metric}$ 表示：

单选题 · mid

  • A.数据回流的速度
  • B.模型在核心业务指标上的提升← 正确答案
  • C.标注人员的工作效率
  • D.训练 GPU 的利用率

答案：B。$\Delta \text{Metric}$ 是模型更新后在 AUC、准确率、点击率等核心指标上的增益。选项 A 是数据流速度；C 是标注成本问题；D 是算力利用率问题，均与“效果增益”含义不同。

Q8. 众包交叉校验的作用主要是：

单选题 · hard

  • A.降低特征缺失率
  • B.提高数据代表性
  • C.通过多人标注一致性检测标签噪声← 正确答案
  • D.减少训练样本的数量

答案：C。众包交叉校验让多个标注员标注同一批样本，通过多数投票和一致性监控识别分歧大的样本——这些往往就是标签噪声。它不解决缺失率（A），不处理代表性（B），也不是为了删数据（D），而是为了找出质量问题。

Q9. 一个样本的“多样性价值”高，通常意味着：

单选题 · easy

  • A.它与已有样本集高度相似
  • B.它与已有样本集中任何一个样本都不相似← 正确答案
  • C.它属于高频出现的常见模式
  • D.它的标签与其他样本冲突

答案：B。多样性追求与已有样本的互补性，越不相似，信息增量越大。A 恰恰是“低多样性”；C 是代表性的表现；D 是噪声的嫌疑信号。这就像淘金时，矿脉中掺杂的新矿物越多，越值得深入勘探。

Q10. 飞轮数据筛选中“成本收益权衡”需要考虑哪些因素？

多选题 · hard

  • A.标注困难样本的人力成本← 正确答案
  • B.噪声人工复核的经济成本← 正确答案
  • C.数据回流延迟带来的模型迭代损耗← 正确答案
  • D.新算法的代码可读性

答案：ABC。成本收益权衡的核心是计算筛选动作的花费与模型指标提升的关系。A 和 B 都是直接经济成本，C 是时间延迟的隐形成本（延迟越大迭代越慢）。D 是工程代码质量问题，不属于筛选策略的成本考量。