想象一位大学生，大学几年没有老师手把手教，只靠天天泡在图书馆里阅读海量书籍，自己给自己出题：遮挡某段文字猜意思、比较两本书的异同、补齐缺页的内容。这就是自监督预训练——模型在无标签数据上“自学成才”。可他毕业求职时，面试官不会只看他自习时长和笔记厚度，而要看真刀真枪的岗位表现：能不能分辨顾客要的商品（图像分类）、能不能在产线找出瑕疵品（目标检测）、能不能把街景切成道路与行人（语义分割），甚至要和“应试教育”培养的另一位毕业生坐在同一张考卷上对比。这套“毕业考核方案”，就是下游迁移评估：怎么设计实验、选哪些任务、用什么考试形式（裸考的 linear probing 和带培训的 fine-tuning）、怎么分析成绩单、哪些因素决定了他换岗后的上限。读完这篇，你就能亲手给自监督预训练模型做一次靠谱的“入职体检”。

岗位关联

迁移评估是自监督预训练成果的“最终裁判”。掌握它才能科学地比较模型、说服团队与业务方，这是视觉预训练研究者与算法工程师的必备技能。

目录
  1. 可视化演示
  2. 评估核心理念
  3. 下游任务选择
  4. 公平对比设计
  5. 线性探测评估
  6. 微调评估
  7. 效果分析方法
  8. 迁移影响因素
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

动态演示自监督预训练下游迁移评估的核心机制，通过输入/处理/存储/输出四种模式展示关键概念与交互流程。

本节配有交互动效（进入视口后自动加载，约 3KB）。

自监督预训练下游迁移评估：下游迁移 下游迁移评估的必要性与核心目标 Linear Probing线 核心机制可视化 自监督预训练下游迁移评估整体架构与关键组件

评估核心理念

学校成绩单上的平时分再漂亮，也不能保证学生工作后能独当一面。自监督预训练模型同样如此：预训练阶段的 loss 曲线一路俯冲、特征可视化轮廓清晰，这些都是“在校表现”，和真实业务问题并不直接挂钩。毕业证只证明你上过学，岗位面试才是检验真本事的时刻。因此研究者把下游迁移评估当作“毕业考”：把预训练好的主干参数搬到具体任务上，在目标数据集上训练评估头，用新任务的表现反推预训练质量。

这套评估流程一般分为四步：选模型、选下游任务、定协议（LP 或 FT）、训练并统计指标。评估结论会直接进入论文排行榜、开源模型选型和工业落地的决策。它回答的问题只有一个：这个自监督模型，到底能不能解决实际问题？尤其要注意，预训练损失下降不必然带来迁移性能提升，两者有时甚至背道而驰——这就是“高分低能”的模型版。

最基础的下游指标是分类准确率。Top-1 准确率统计预测类别与真实类别一致的样本占比，公式简单却用途最广：

在校成绩单只能说明他“肯学”，岗位表现才说明他“会做”。预训练 loss 留在实验室报告里，迁移指标才是通往工业界的通行证。所以任何自监督模型的对外宣称，都必须用下游迁移评估来“盖棺定论”。

Acc=1N∑i=1NI(y^i=yi)\displaystyle \text{Acc} = \frac{1}{N}\sum_{i=1}^{N} \mathbb{I}(\hat{y}_i = y_i)
Top-1 准确率相当于“十道判断题答对了几道”，是最直观的岗位考核分。
  1. 样本总数 N分母上的 N 是测试样本的总数，相当于试卷上的题目数量。
    NN
  2. 预测类别 ŷᵢ模型对第 i 张图输出的预测类别，也就是“他填写的答案”。
    y^i\hat{y}_i
  3. 真实标签 yᵢ该样本的真实类别，是阅卷标准答案。
    yiy_i
  4. 指示函数 I(·)判断预测是否与真值相等，相等记 1，不相等记 0。
    I(y^i=yi)\mathbb{I}(\hat{y}_i = y_i)
  5. 求平均把所有样本的得分加起来再除以 N，得到整体正确率。
    1N∑i=1N\frac{1}{N}\sum_{i=1}^{N}

下游任务选择

校招面试不能只考一道数学题，得安排不同岗位轮岗。给自监督毕业生准备的三类典型岗位是：百货导购（图像分类）、产线质检员（目标检测）、城市规划师（语义分割）。岗位不同，考核方式自然不同：导购只要说出货架上是什么商品；质检员必须用红框标出问题商品的精确位置；规划师则要逐像素把街景照片分成道路、建筑和行人。

图像分类判断整张图属于哪个类别，是最基础的认知任务；目标检测要同时输出物体的类别与位置框，更接近真实场景；语义分割需要对每个像素做类别判断，最考验细粒度空间理解。自监督研究通常会在这三类任务上同时报告成绩，形成一条从易到难的“难度梯度”。一个只在分类上强的模型，未必经得起分割任务的检验。

各类任务的度量尺子各不相同：分类看 Top-1 Acc；检测看 mAP（在不同 IoU 阈值下精确率-召回率曲线的平均面积）；分割看 mIoU（所有类别 IoU 的平均值）。交并比 IoU 是检测和分割的共同基石：

岗位覆盖越广，越能看清毕业生是“偏科”还是“全才”。只考分类就像只问一道口算题，容易高估真实水平。所以评估报告里，分类、检测、分割三行成绩缺一不可。

IoU=∣A∩B∣∣A∪B∣\displaystyle \text{IoU} = \frac{|A \cap B|}{|A \cup B|}
IoU 衡量“预测区域”与“真实区域”的重叠程度：完全重合为 1，完全不沾边为 0，就像投篮命中率。
  1. 预测区域 A模型输出的像素集合或检测框，例如“我认为这一块是病灶”。
    AA
  2. 真实区域 B人工标注的正确区域，是标准答案。
    BB
  3. 交集大小两个区域重叠部分的面积或像素数，代表预测得有多准。
    ∣A∩B∣|A \cap B|
  4. 并集大小两个区域合起来覆盖的总面积，代表“预测与真值共同占据的地盘”。
    ∣A∪B∣|A \cup B|
  5. 取比值重叠部分占整体地盘的比例越高，空间定位越精准。
    ∣A∩B∣∣A∪B∣\frac{|A \cap B|}{|A \cup B|}

公平对比设计

要让自学的毕业生和应试教育的毕业生比高下，必须安排同一考场、同一张卷、同一套阅卷标准。否则一个说题难、一个说时间紧，分数毫无可比性。迁移评估中，自监督预训练通常要跟有监督预训练（在 ImageNet 上用人工标签训练出的权重）做 PK。不能只把主干换掉，其余训练细节全让写实验的人“自由发挥”。

公平对比的核心是控制变量。研究者至少要在以下方面保持完全一致：同一下游数据集与划分方式、同一数据增强与输入分辨率、同一优化器与学习率调度、同一训练轮数和评估协议。任何一个环节配置漂移，结论都可能从“自监督更优”翻转为“有监督更优”。这也是很多论文被诟病“调参不公”的原因。

为了量化差距，论文常用“相对提升”指标，把有监督预训练当作基线（分母），看自监督模型比它强多少：

考场不公平，考分就是噪音。公平对比设计得越严格，迁移评估的结论才越有说服力——这不仅是对论文读者的尊重，也是对自己判断力的保护。

RelativeGain=Mself−MsupMsup×100%\displaystyle \text{RelativeGain} = \frac{M_{\text{self}} - M_{\text{sup}}}{M_{\text{sup}}} \times 100\%
相对提升相当于“比同事快百分之多少”，用百分比消除了不同任务本身难度的差异。
  1. 模型指标 M_sup有监督预训练基线在下游任务上的成绩，作为参照系。
    MsupM_{\text{sup}}
  2. 模型指标 M_self待评估的自监督预训练模型在同一任务上的成绩。
    MselfM_{\text{self}}
  3. 做差分子是自监督相对基线的绝对增量。
    Mself−MsupM_{\text{self}} - M_{\text{sup}}
  4. 除以基线把增量按基线尺度归一化，类似“涨薪幅度按原工资算百分比”。
    Mself−MsupMsup\frac{M_{\text{self}} - M_{\text{sup}}}{M_{\text{sup}}}
  5. 转为百分比乘以 100% 让结果更符合人类直觉。
    ×100%\times 100\%

线性探测评估

有一种“裸考”：直接发卷子，不给学生任何岗前培训，看他能否凭大学里自学的底子答对题。linear probing（线性探测，LP）就是这个裸考协议。具体做法是：把预训练主干完全冻结，参数一个都不许动，只在其输出的特征向量后面接一个线性分类层（相当于一份“标准答题卡”）进行训练。

LP 回答的问题是：预训练特征本身是否足够“线性可分”？好的自监督特征应当把不同类别在特征空间里自然分开，就像图书馆把不同学科的书自动分到了不同书架——不需要再上培训班，看个分类就能归位。LP 是横向对比模型的利器，因为训练开销小、超参数敏感度低，几乎是最公平的“统一试卷”。

LP 的数学形式是一个线性层加 softmax：对冻结特征做加权打分再归一化成概率：

裸考高分说明基础扎实；裸考低分也可能只是“思路非线性”，需要培训来发挥。所以 LP 成绩差不代表模型整体差，必须和微调成绩搭配着看，不能以 LP 一锤定音。

P(y=k∣x)=softmaxk(W⊤h(x)+b)\displaystyle P(y=k\mid x) = \text{softmax}_k\left(W^{\top} h(x) + b\right)
LP 就是给每个类别配一把“尺子”，量一量输入特征更像哪一类，然后用 softmax 把得分变成概率。
  1. 冻结特征 h(x)主干提取的特征向量，经过预训练后固定不变，代表学生的“知识底子”。
    h(x)h(x)
  2. 线性权重 W 与偏置 b线性分类头的可学习参数，相当于“各类别的阅卷权重”。
    W,bW, b
  3. 线性打分对特征向量做加权求和加偏置，每个类别得到一个原始分数。
    W⊤h(x)+bW^{\top} h(x) + b
  4. softmax 归一化把一组原始分数压成总和为 1 的概率分布。
    softmaxk(⋅)\text{softmax}_k(\cdot)
  5. 取最大概率模型最终预测概率最大的那个类别作为答案。
    y^=arg⁡max⁡kP(y=k∣x)\hat{y} = \arg\max_k P(y=k\mid x)

微调评估

另一种考核是“入职培训后上岗”：给毕业生两周时间熟悉业务流程、调整工作方式，再考核绩效。fine-tuning（微调，FT）就是这个协议。它让预训练主干的所有参数都参与下游任务的训练，允许模型按新任务修改内部特征。FT 回答的问题是：这套预训练参数能否高效适配到具体任务？

FT 的适应力来自“全参数更新”：不仅最后的分类头在学，前面每一层卷积/Transformer 也在按下游梯度调整。就像员工不仅背下了产品手册，还改变了沟通方式和做事的惯性。代价是训练开销大、超参数敏感：学习率、轮数、数据增强任何一个没调好，都可能过拟合或者破坏预训练学到的通用知识。

FT 的更新规则就是标准的梯度下降：

培训后的绩效更能打，却也更难归因于“底子好还是培训好”。FT 表现好，有时是任务本身好调，有时是预训练特征恰好适配。所以要回到 LP 与 FT 一起看，才能区分天赋与努力。

θ←θ−η∇θLdown(θ)\displaystyle \theta \leftarrow \theta - \eta \nabla_{\theta} \mathcal{L}_{\text{down}}(\theta)
微调公式就是“沿着让错误变小的方向，用小碎步调整所有参数”，步幅由学习率 η 控制。
  1. 全部参数 θ主干与分类头的所有可学习参数，代表员工的全部技能点。
    θ\theta
  2. 下游损失函数模型在下游任务（如分类）上的损失，衡量当前表现有多差。
    Ldown(θ)\mathcal{L}_{\text{down}}(\theta)
  3. 梯度损失对每个参数的导数，指示“往哪个方向调能减少错误”。
    ∇θLdown(θ)\nabla_{\theta} \mathcal{L}_{\text{down}}(\theta)
  4. 学习率 η每次调整的步幅，学习率太大容易越过最优点，太小则收敛缓慢。
    η\eta
  5. 更新参数沿负梯度方向迈出一步，得到更优的参数。
    θ−η∇θL\theta - \eta \nabla_{\theta} \mathcal{L}

效果分析方法

一份像样的岗位评估报告，除了最终绩效，还要看员工上手快不快、教多少材料能教会、换到不同岗位稳不稳定。迁移效果分析同样不能只看单点最高分，而要从三个维度展开：最终性能、收敛速度、数据效率。

最终性能就是 LP/FT 跑完后的最高准确率；收敛速度看训练曲线在多早达到稳定——上手快的模型在真实项目中能省大量算力；数据效率看不同标注量下的表现，比如只用 1%、10%、100% 标注数据训练，曲线越平缓说明少数据也能学得好。三点结合才能写出一份立体的“体检报告”。

其中有一个非常实用的诊断量：定义 Δ 为微调相对线性探测的准确率增益：

单看一个分数就像只看期末总分，看不到偏科和潜力。把 LP 曲线、FT 曲线、数据效率曲线并列在一起，才能看清这个模型是“潜力股”还是“天花板已现”。

Δ=AccFT−AccLP\displaystyle \Delta = \text{Acc}_{\text{FT}} - \text{Acc}_{\text{LP}}
Δ 回答“培训带来了多少额外提升”：提升大说明老底子可塑，提升小说明老底子已足够好。
  1. 微调后准确率经过全局参数更新后模型在下游任务上的成绩。
    AccFT\text{Acc}_{\text{FT}}
  2. 线性探测准确率冻结主干、只练线性头得到的成绩。
    AccLP\text{Acc}_{\text{LP}}
  3. 求差两者相减得到培训带来的增量。
    Δ=AccFT−AccLP\Delta = \text{Acc}_{\text{FT}} - \text{Acc}_{\text{LP}}
  4. 解读 Δ 值Δ 大说明特征可塑性强；Δ 接近零说明特征已饱和；Δ 为负则提示过拟合或任务不匹配。

迁移影响因素

同样是自学成才，有人跨行业无缝衔接，有人水土不服。差别来自几个变量：所学专业与岗位的匹配度、母校藏书量、个人容量、岗位本身难度。自监督迁移评估里，这些变量对应四类因素：预训练数据与下游数据的分布相似度、预训练数据规模、模型容量、下游任务难度与标注量。

数据相似度是最大的“开局决定项”：在自然图像上预训练的模型，直接迁移到医学影像上往往效果打折，这在特征分布距离上可以直观看到。预训练数据规模同样关键，更大规模通常带来更好的迁移表现，但收益会递减。模型容量也很重要：参数越多，能记住的通用规律越丰富，但下游数据少时也越容易过拟合。

预训练数据规模与迁移性能之间常呈现幂律关系：

理解了这些因素，你才能像 HR 一样把合适的毕业生放到合适的岗位上：预训练数据跟业务越像越好、数据量越大越好、模型容量要跟下游标注量匹配。这样设计的评估实验，才不是盲人摸象。

E(D)=c⋅Dα\displaystyle E(D) = c \cdot D^{\alpha}
性能随数据规模按幂函数增长，前期提升快、后期变缓，就像图书越多吸收越好，但读到一定量后边际收益递减。
  1. 迁移性能 E下游任务上的评估指标（如准确率）。
    E(D)E(D)
  2. 预训练数据量 D自监督阶段用到的无标签样本总量。
    DD
  3. 常数 c缩放系数，决定曲线整体高度，由模型与任务共同决定。
    cc
  4. 幂指数 α决定性能随数据增长的速度，α 越大增长越猛。
    α\alpha
  5. 对数线性形式两边取对数后变成直线，便于在论文中用回归拟合。
    log⁡E=αlog⁡D+log⁡c\log E = \alpha \log D + \log c

AI 应用场景

医学影像分割的少样本迁移评估

阶段：下游迁移评估（模型选型阶段）

解决的问题：医学影像标注昂贵，有标签数据稀少。传统方法直接在有监督 ImageNet 权重上微调，容易过拟合；而自监督预训练（如在大规模无标注 CT 上预训练）可能带来更好的迁移效果，但需要科学的评估流程来验证。

具体案例：某影像 AI 团队在 5000 张无标注胸部 CT 上做自监督预训练，然后在 200 张有标注的肺结节图像上分别做 LP 与 FT 评估，并与有监督预训练权重对比。他们绘制了 1%、10%、50% 标注量下的数据效率曲线，发现自监督预训练在 1% 标注时相对提升超过 8%，从而决定以自监督权重作为产品基线。

工业缺陷检测的快速原型验证

阶段：迁移评估的 linear probing 快速验证

解决的问题：产线缺陷类别经常变化，每个新类别都从零训练耗时耗力。传统做法是收集大量标注再做监督训练，响应慢、成本高。

具体案例：某工业视觉团队在 20 万张无标签产品图上自监督预训练一个 ResNet 主干。每当新增缺陷类型，他们先用 LP 在少量标注上快速验证特征是否可分，LP 达标后再用 FT 微调上线。LP 作为“裸考门槛”帮团队在一小时内筛掉不合适的基座模型，大幅缩短原型迭代周期。

自动驾驶感知的多任务迁移榜单

阶段：下游任务选择与公平对比

解决的问题：自动驾驶需要同时做好检测、分割、深度估计等多个感知任务，预训练模型的选择直接影响整套系统性能。选错模型会导致系统迭代返工。

具体案例：某自动驾驶团队在百万级无标注驾驶数据上完成自监督预训练，然后建立包含检测（mAP）、分割（mIoU）的评估矩阵，与有监督预训练在完全相同的数据增强、学习率、训练轮数下对比。他们用相对提升指标筛选出在检测任务增益最大、在分割任务不倒退的模型，并上线到夜间场景感知模块。

Python 演示

python56 行
import argparseimport torchfrom torch import nnfrom torch.utils.data import DataLoaderfrom torchvision import datasets, models, transforms def evaluate(model, loader):    model.eval()    correct = total = 0    with torch.no_grad():        for x, y in loader:            out = model(x)            correct += (out.argmax(dim=1) == y).sum().item()            total += y.size(0)    return correct / max(total, 1) def train(model, loader, method, epochs=5):    is_lp = method == "lp"    params = model.fc.parameters() if is_lp else model.parameters()    lr = 0.01 if is_lp else 0.001    opt = torch.optim.SGD(params, lr=lr, momentum=0.9)    loss_fn = nn.CrossEntropyLoss()    for _ in range(epochs):        model.train(not is_lp)        for x, y in loader:            opt.zero_grad()            loss = loss_fn(model(x), y)            loss.backward()            opt.step() def main():    parser = argparse.ArgumentParser()    parser.add_argument("--method", choices=["lp", "ft"], default="lp")    args = parser.parse_args()    tf = transforms.Compose([        transforms.Resize(224),        transforms.ToTensor(),        transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])    ])    train_ds = datasets.CIFAR10("./data", train=True, download=True, transform=tf)    test_ds = datasets.CIFAR10("./data", train=False, download=True, transform=tf)    loader = DataLoader(train_ds, batch_size=64, shuffle=True, pin_memory=True)    test_loader = DataLoader(test_ds, batch_size=256)    model = models.resnet18(weights=models.ResNet18_Weights.IMAGENET1K_V1)    model.fc = nn.Linear(model.fc.in_features, 10)    if args.method == "lp":        for p in model.parameters():            p.requires_grad = False        model.fc.requires_grad_(True)    print("method:", args.method, "| backbone:", type(model).__name__)    train(model, loader, args.method)    acc = evaluate(model, test_loader)    print("top-1 accuracy: {:.2%}".format(acc)) if __name__ == "__main__":    main()
目的：演示下游迁移评估的标准代码骨架——加载预训练骨干，通过 --method lp/ft 切换“裸考”（只练线性头）与“岗前培训”（全参数微调），在 CIFAR-10 上输出 Top-1 准确率。
  1. model = models.resnet18(weights=models.ResNet18_Weights.IMAGENET1K_V1)加载预训练骨干，相当于请来一位自带“综合素质”的候选人；换成自监督权重即可对比。
  2. model.fc = nn.Linear(model.fc.in_features, 10)把原有 1000 类分类头换成下游 10 类，相当于把岗位 JD 换成新岗位。
  3. params = model.fc.parameters() if is_lp else model.parameters()核心分歧点：LP 只更新分类头，FT 更新全部参数。
  4. for p in model.parameters(): p.requires_grad = False冻结主干的所有参数，这是“裸考”的铁律。
  5. model.fc.requires_grad_(True)只解冻最后的线性头，让“答题卡”可以学习。
  6. model.train(not is_lp)LP 模式下主干保持 eval 状态，确保 BatchNorm 统计量不被少量数据带偏。
  7. lr = 0.01 if is_lp else 0.001FT 需要用更小学习率，防止大步长破坏预训练知识。
  8. correct += (out.argmax(dim=1) == y).sum().item()统计 Top-1 正确数，对应正文中的指示函数 I(·)。

常见误区

误区我把预训练阶段的 loss 训练到很低，可视化特征也很清晰，这个模型肯定很强，下游任务直接拿来用就行。

正解预训练 loss 低只说明“自学考试”成绩好，不保证能解决下游任务。自监督的代理任务（如对比、重建）与真实业务目标常常不完全一致，模型可能把精力用在学无关的规律上。必须用下游迁移评估来验证，就像名校高才生也要过面试关。

为何常见：训练曲线天天在日志里跳动，视觉上太直观，让人下意识把它当作模型质量的核心指标。

误区FT 让所有参数都适应任务，自由度更大，那它肯定全面碾压 LP。

正解FT 参数多、自由度大，在标注数据少时极易过拟合，甚至破坏预训练学到的通用特征；LP 只有一个线性头，参数极少，反而更稳。两者测的是不同能力：LP 测特征本底质量，FT 测任务适配潜力。数据少时 LP 更可靠是常见现象。

为何常见：在标注充分的基准上 FT 通常更高，人们便简单外推“越多训练越好”。

误区LP 就是微调的一种，只是训练时间短、调得少，本质没区别。

正解LP 完全冻结主干，只训练一个线性分类头，主干的任何参数都不更新。允许少量主干参数更新的方法是 adapter、LoRA 或 partial fine-tuning，属于另一类“参数高效微调”协议。把 LP 和 FT 混为一谈会搞乱评估结论。

为何常见：名字里都带“调”，且 LP 代码看起来只是少了“解冻”步骤，术语边界容易被忽略。

误区我用同一个数据集测两个预训练模型，测试集一样，这还不公平吗？

正解公平对比必须控制训练 epoch、学习率、批大小、数据增强、优化器、评估协议等全套配置。否则看到的差异可能来自“谁被调参调得更好”，而非预训练质量本身。就像两个考生虽然答同一张卷，但一个限时 10 分钟、另一个不限时。

为何常见：大家默认“测试集相同 = 公平”，忽略了训练过程还有大量自由参数。

误区实验报告里列一行“最高 Acc：xx%”就够了，跟别人比数字大小最简单。

正解单点最高分可能被过拟合、随机种子、调参运气欺骗。要看训练曲线（是否收敛）、数据效率（少标注下表现如何）、跨任务稳定性（多个任务是否一致地好）。完整曲线才能区分“靠运气的高分”和“真正的好模型”。

为何常见：排行榜文化让人只盯着一个数字，而数字背后的曲线需要更多功夫去分析和呈现。

面试题

Q1. 判断自监督预训练模型好坏，最该看什么？

单选题 · easy

  • A.预训练损失下降得够不够低
  • B.在下游任务上的迁移表现← 正确答案
  • C.模型参数量的大小规模
  • D.单卡训练的吞吐速度

答案：B。预训练 loss 是“在校成绩”，参数量和速度与能力无关。只有下游迁移表现才是“岗位表现”，能真实反映预训练模型解决实际问题的能力，这正是全篇强调的评估核心理念。

Q2. linear probing 评估时，下列哪项操作正确？

单选题 · easy

  • A.冻结主干只训练线性头← 正确答案
  • B.冻结分类头只训练主干
  • C.所有参数一起梯度更新
  • D.只调整输入图像大小

答案：A。LP 的铁律是主干完全冻结，只训练末尾的线性分类头。选项 C 是 fine-tuning 的做法，选项 B 和 D 都不属于标准 LP 协议。LP 用最少的参数训练衡量特征本底质量，就像裸考只发一张答题卡。

Q3. LP 和 FT 的本质区别是什么？

单选题 · mid

  • A.学习率数值大小不同
  • B.批量大小设置不同
  • C.预训练特征是否更新← 正确答案
  • D.数据增强是否相同

答案：C。LC 与 FT 的边界在于主干参数是否参与更新。学习率、批量大小、数据增强都是工程细节，不是协议的本质。LP 冻结特征只练线性头，FT 全部参数更新，这就是“裸考”与“岗前培训”的分界线。

Q4. 与有监督预训练做对比评估时，最重要的原则是什么？

单选题 · mid

  • A.其他配置完全相同← 正确答案
  • B.下游准确率更高
  • C.预训练数据相同
  • D.训练时间足够长

答案：A。公平对比的核心是控制变量：同数据集、同增强、同优化器、同轮数、同评估协议。选项 C 是预训练阶段的事，B 和 D 是结果或条件而非原则。同一考场同一张卷，成绩才有可比性。

Q5. 目标检测任务通常用什么指标评估？

单选题 · mid

  • A.Top-1 分类准确率
  • B.mAP 平均精度均值← 正确答案
  • C.IoU 交并比值
  • D.F1 分数指标值

答案：B。目标检测同时关注分类与定位，mAP 综合了不同 IoU 阈值下的精确率-召回率表现；IoU 是 mAP 内部的计算基础，单独使用不完整；Top-1 和 F1 分别服务于分类与检索场景。

Q6. 语义分割任务常用的评估指标是？

单选题 · easy

  • A.平均交并比 mIoU← 正确答案
  • B.类别置信度高低
  • C.检测框回归损失
  • D.余弦相似度数值

答案：A。语义分割要逐像素分类，mIoU 对所有类别的 IoU 取平均，能同时衡量“分对像素”和“边界精度”。置信度、回归损失、余弦相似度都不是分割的标准化评估指标。

Q7. 设计下游任务评估矩阵时，应综合考量哪些点？

多选题 · hard

  • A.覆盖多种任务类型类别← 正确答案
  • B.设置合理难度梯度← 正确答案
  • C.使用单一分类任务即可
  • D.标注数据数量适中← 正确答案

答案：ABD。评估矩阵要覆盖分类、检测、分割等多种任务并形成难度梯度，同时保证下游标注量适中以便公平训练。只用单一分类任务等于只考口算题，容易高估模型；标注量过大或过小都会影响对比的信度。

Q8. 影响自监督模型迁移效果的因素有哪些？

多选题 · mid

  • A.预训练数据与下游数据的相似度← 正确答案
  • B.预训练数据集规模大小← 正确答案
  • C.骨干模型容量大小← 正确答案
  • D.与预训练无关的因素

答案：ABC。数据相似度决定迁移起点，预训练规模通过幂律影响性能上限，模型容量决定可学习规律的丰富程度。选项 D 过于笼统且与迁移效果直接相关的因素明确指向前三项，因此不能选。

Q9. 下游标注数据很少时，LP 与 FT 哪个更可靠？

单选题 · hard

  • A.FT 因为适应性更强
  • B.LP 因为参数少不易过拟合← 正确答案
  • C.两者效果完全相同
  • D.完全无法做出判断

答案：B。标注数据少时，FT 的全参数更新自由度大，容易把预训练先验带偏、发生严重过拟合；LP 只训练一层线性头，参数量极小，反而能稳定反映特征质量。这也是工业界常用 LP 做快速筛选的原因。

Q10. 关于迁移效果分析中的 Δ = Acc_FT − Acc_LP，正确的解读有哪些？

多选题 · extreme

  • A.Δ 大表示特征可塑性强← 正确答案
  • B.Δ 接近零表示特征已饱和← 正确答案
  • C.Δ 为负可能是过拟合信号← 正确答案
  • D.Δ 大说明预训练完全没用

答案：ABC。Δ 衡量“培训带来的额外增益”。Δ 大意味着预训练特征能被任务有效重塑；Δ≈0 说明特征已足够好，微调榨不出增量；Δ 为负提示微调过拟合或任务不匹配。Δ 大恰恰说明预训练特征与任务存在可适配空间，而非“完全没用”，D 错误。