想象你是一位餐厅主厨。上一代招牌菜（EfficientNet V1）靠着精妙的食材配比大受欢迎——味道准确率极高，却有个致命问题：出餐太慢。因为每道菜的工序都要“先切丝、再腌制、再爆炒”反复折腾，客人等急了，后厨设备（GPU/TPU）也没法全力运转。更头疼的是，小份菜（小模型）完全不出彩，隔壁快餐厅的菜都能把它比下去。 于是你决定重新设计菜谱。这次不再只盯着“好吃”，而是把“出餐效率”写进核心目标。你的研发思路是：把两步工序揉成一步（Fused-MBConv）、用算法自动探索最佳配方（NAS 搜索）、先做小份试吃再逐步扩大规格（渐进式学习）、最后推出一套从一人食到宴席装的全家族版本（复合缩放策略）。EfficientNet V2 就这样诞生了——精度不降反升，训练速度却飚升数倍。

岗位关联

对 CV 工程师而言，EfficientNet V2 补齐了 V1“重精度轻速度”的短板，让你在做图像分类、目标检测骨干网络时，既能拿到 SOTA 精度，又能省下昂贵的训练预算。

目录
  1. 可视化演示
  2. 为什么要做 EfficientNet V2
  3. Fused-MBConv：两招合一招
  4. NAS 搜索：让算法当主厨
  5. 渐进式学习：从小份试吃开始
  6. 复合缩放：全家族配比哲学
  7. V2 对比 V1：新秀登场
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示Fused-MBConv结构、渐进式学习策略与v1/v2性能对比。

本节配有交互动效（进入视口后自动加载，约 3KB）。

Fused-MBConv模块结构 早期阶段：融合1x1+3x3卷积替代深度可分离 后期阶段：保持标准MBConv结构 Fused: Conv1+DW3 → Conv3 减少内存访问提升训练速度

为什么要做 EfficientNet V2

老主厨的上一代菜谱（EfficientNet V1）在“好吃”这件事上做到了极致——通过复合缩放同时加大食材种类（通道数）、工序数（层数）和摆盘尺寸（分辨率），菜品识别准确率一路飙升。但问题也随之暴露：厨房里每道菜要经过“切丝—腌制—爆炒—勾芡”四道工序，每一道都要开一次火、洗一次锅（读写一次内存）。客人吃得很满意，后厨却苦不堪言，出餐速度被硬生生拖垮。

从技术上讲，V1 大量使用了深度可分离卷积。这种结构把标准卷积拆成“深度卷积 + 1×1 逐点卷积”两步，虽然大幅减少了计算量（FLOPs），却让 GPU/TPU 上的小算子变得碎片化。硬件擅长的是大块连续计算，频繁切换算子只会让算力利用率下降。论文中给出的诊断，可以用下面的公式粗略表示：

除此之外，V1 家族的小型号（如 B0、B1）在 ImageNet 上甚至比不过 ResNet——因为复合缩放放大了大模型的优势，却没能拯救小模型的“先天不足”。主厨终于意识到：光靠堆料（放大网络）不够，必须从工序和训练策略下手，于是 EfficientNet V2 的研发立项了。

实际算力利用率≈总计算量峰值算力×训练时间\text{实际算力利用率} \approx \frac{\text{总计算量}}{\text{峰值算力} \times \text{训练时间}}
  1. 总计算量（FLOPs）模型完成一次前向传播所需的浮点运算次数，是衡量“活多不多”的尺度。
    FLOPs=∑层输出尺寸×卷积核大小\text{FLOPs} = \sum_{\text{层}} \text{输出尺寸} \times \text{卷积核大小}
  2. 峰值算力硬件（GPU/TPU）在理想状态下每秒能执行的最大浮点运算次数，可以理解为厨房灶台的“最大火力”。
    峰值算力∝硬件并行度×时钟频率\text{峰值算力} \propto \text{硬件并行度} \times \text{时钟频率}
  3. 训练时间实际完成全部 epoch 所花费的秒数，包含了等待、数据搬运、算子切换等一切开销。
    训练时间=前向时间+反向传播时间+数据流水线时间\text{训练时间} = \text{前向时间} + \text{反向传播时间} + \text{数据流水线时间}
  4. 整体关系当算子碎片化导致等待时间变长，分母变大，分子不变，算力利用率自然就掉下来了。
    ⇒利用率↓⇒同等算力下训练更慢\Rightarrow \text{利用率} \downarrow \Rightarrow \text{同等算力下训练更慢}

Fused-MBConv：两招合一招

主厨决定先从后厨工序开刀。旧菜谱里“切丝（深度卷积）”和“爆炒前处理（1×1 卷积）”是分开的两道工序，要把食材从后厨搬到灶台两次。新菜谱直接换成一把更宽的刀——用一个普通 3×3 卷积同时完成空间特征提取和通道扩展。这就是 Fused-MBConv 的核心理念：“融合”就是把原来级联的深度卷积和逐点卷积合并成一个标准卷积。

具体来说，MBConv 的计算路径是：输入先经过 3×3 深度卷积提取每个通道的空间模式，再经过 1×1 卷积做通道间的信息混合。而 Fused-MBConv 用单个 3×3 普通卷积一步到位，随后再接 1×1 投影层（Project 层）把通道数映射到目标大小。这样做的好处是减少了两次内核执行之间的内存往返——食材不用来回搬运，灶台连续大火输出，硬件利用率自然上升。

不过话说回来，“一把宽刀”并非在所有灶台都好用。论文实验发现：在网络早期阶段（浅层），Fused-MBConv 大幅提升训练效率；但在深层网络中，这种融合反而会增加计算量。因为深层特征图的通道数已经很大，普通 3×3 卷积在超大通道上的开销远高于拆分开的深度可分离卷积。于是最终的网络采用了“浅层多用 Fused-MBConv，深层保留 MBConv”的混合结构——这正是后面 NAS 搜索要干的活。

y=Project(SE(SiLU(BN(Conv3×3(x)))))y = \text{Project}\left(\text{SE}\left(\text{SiLU}\left(\text{BN}\left(\text{Conv}_{3\times3}(x)\right)\right)\right)\right)
  1. Conv₃ₓ₃普通 3×3 卷积，一步同时完成空间混合和通道扩展，这是“融合”的关键。
    Conv3×3(x)=x∗Wconv+b\text{Conv}_{3\times3}(x) = x * W_{\text{conv}} + b
  2. BN（批归一化）对卷积输出做标准化，让数据分布稳定，相当于给食材定个统一的“温度和湿度标准”。
    x^=x−μbatchσbatch2+ϵ\hat{x} = \frac{x - \mu_{\text{batch}}}{\sqrt{\sigma_{\text{batch}}^2 + \epsilon}}
  3. SiLU 激活平滑的激活函数，给网络引入非线性表达能力。
    SiLU(x)=x⋅σ(x)\text{SiLU}(x) = x \cdot \sigma(x)
  4. SE（通道注意力）先全局平均池化压缩每个通道，再用两个 1×1 卷积学习每个通道的重要性权重，最后乘回原特征图，相当于给这道菜“按客人口味微调调料比例”。
    SE(x)=x⋅σ(W2⋅SiLU(W1⋅AvgPool(x)))\text{SE}(x) = x \cdot \sigma\left(W_2 \cdot \text{SiLU}(W_1 \cdot \text{AvgPool}(x))\right)
  5. Project（投影层）用 1×1 卷积把通道数映射到输出尺寸，控制最终数据形态。
    y=Conv1×1(z)+by = \text{Conv}_{1\times1}(z) + b

NAS 搜索：让算法当主厨

有了 Fused-MBConv 这把新刀，怎么组合成完整菜谱？总不能靠主厨拍脑袋一个个试。EfficientNet V2 采用了神经架构搜索（NAS）——让算法自己从候选模块池里挑出最优结构组合，就像让一个“数据驱动的试菜机器人”在厨房里快速批量试做上千种搭配。

NAS 的搜索空间包含两类基础模块：MBConv（经典深度可分离 + SE）和 Fused-MBConv（融合卷积 + SE），以及每个阶段的卷积核大小（3×3 或 5×5）、通道数、层数等超参数。V1 的 NAS 只优化精度，但 V2 明确地把训练效率写进了约束条件——搜索出来的网络不仅精度要高，训练加速比也要漂亮。

最终 NAS 找出的结构验证了之前的判断：网络前 3 个阶段全部使用 Fused-MBConv，中间阶段混合使用两种模块，最后几个阶段回到 MBConv。这个“前半段融合、后半段分离”的结构，恰好兼顾了训练效率和参数效率——就像餐厅里前菜快速批量制作，主菜精工细作。

max⁡A  Accuracy(A)s.t.FLOPs(A)≤Fmax⁡,峰值内存(A)≤Mmax⁡\max_{A} \; \text{Accuracy}(A) \qquad \text{s.t.} \quad \text{FLOPs}(A) \le F_{\max}, \quad \text{峰值内存}(A) \le M_{\max}
  1. Accuracy(A)候选架构 A 在验证集上的精度，是搜索优化的最终目标。
    Accuracy(A)=1N∑i=1N1[y^i=yi]\text{Accuracy}(A) = \frac{1}{N}\sum_{i=1}^{N} \mathbf{1}[\hat{y}_i = y_i]
  2. FLOPs(A) ≤ F_max限制总计算量，保证模型训练和推理的成本可控。
    FLOPs(A)=∑l=1Lflops(l)\text{FLOPs}(A) = \sum_{l=1}^{L} \text{flops}^{(l)}
  3. 峰值内存(M) ≤ M_max限制训练时的最大内存占用，避免模型“撑爆”GPU 显存。
    Mem(A)=max⁡t(激活值t+权重t+优化器状态t)\text{Mem}(A) = \max_{t} \left( \text{激活值}_t + \text{权重}_t + \text{优化器状态}_t \right)
  4. 搜索策略NAS 通过强化学习或进化算法迭代采样架构并评估，用较小的“代理任务”快速过滤掉低效候选。
    A∗=arg⁡max⁡A∈S  Accuracy(A)s.t.  约束条件成立A^{*} = \arg\max_{A \in \mathcal{S}} \; \text{Accuracy}(A) \quad \text{s.t.} \; \text{约束条件成立}

渐进式学习：从小份试吃开始

菜谱定好了，怎么试菜又是一门学问。老办法是直接上一桌满汉全席（直接用 224×224 大图训练），不仅出餐慢，客人（模型）也容易“撑到”——过拟合。主厨这次学聪明了：先做小份试吃（小尺寸图像），随着客人口味稳定下来，再逐步增大菜量（分辨率），同时加大品控力度（正则化）。这就是渐进式学习的核心。

具体实现上，EfficientNet V2 把训练分成多个阶段，每个阶段逐步提升输入图像的分辨率（如 128 → 192 → 256 → 300），同时动态调节正则化强度。训练早期图像小、数据分布简单，网络能快速学会基础特征；后期图像变大、信息变丰富，再用更强的数据增强（RandAugment、Mixup）和 Dropout 来抑制过拟合。实验表明，这种策略让训练速度提升了约 3 倍，而精度不受损失。

这种从小到大的训练策略还有个附加好处：变相实现了“课程学习”（Curriculum Learning），让网络像人一样先学简单的再学难的，既加快了收敛，又提升了最终泛化能力。

λ(t)=λmin⁡+(λmax⁡−λmin⁡)⋅(tT)k\lambda(t) = \lambda_{\min} + \left(\lambda_{\max} - \lambda_{\min}\right) \cdot \left(\frac{t}{T}\right)^{k}
  1. t / T当前训练进度，t 是当前迭代步数，T 是总迭代步数，范围 0 到 1。
    τ=tT∈[0,1]\tau = \frac{t}{T} \in [0, 1]
  2. λ_min 与 λ_max正则化强度的下限和上限。训练初期用弱正则化（λ_min），后期逐步逼近强正则化（λ_max）。
    λmin⁡≤λ≤λmax⁡\lambda_{\min} \le \lambda \le \lambda_{\max}
  3. 指数 k控制正则化增长速度的曲线形状。k > 1 表示后期增速加快，模拟“越到后面越要严格品控”。
    dλdt=k⋅(λmax⁡−λmin⁡)⋅τk−1∝增长速率\frac{d\lambda}{dt} = k \cdot (\lambda_{\max} - \lambda_{\min}) \cdot \tau^{k-1} \propto \text{增长速率}
  4. 整体含义图像尺寸和正则化强度“同向缩放”——小图配弱正则化，大图配强正则化。二者配合，让网络在不同阶段都能学到恰当的表示。
    图像尺寸↑⇒信息量↑⇒正则化↑（抑制过拟合）\text{图像尺寸} \uparrow \Rightarrow \text{信息量} \uparrow \Rightarrow \text{正则化} \uparrow \text{（抑制过拟合）}

复合缩放：全家族配比哲学

有了新菜谱和训练法，主厨还想推出“一人食、家庭装、宴席装”三个规格——对应 EfficientNet V2-S / M / L 三个模型。问题来了：怎么从基础网络放大到不同规格，而不破坏已有的效率平衡？

EfficientNet 家族的回答是复合缩放：用一个统一的缩放系数 φ，同时控制网络的深度（层数）、宽度（通道数）和输入分辨率。这样三个维度按比例放大，避免“只加深不增宽”或“只加大图像不增加通道”导致的瓶颈失衡。V2 沿用了这一策略，用 NAS 搜出的基础结构作为起点，再按 φ 值生成不同规模的模型。

通过调整基线的分配系数，V2 在 φ 的网格上搜索出 S/M/L 三个规格。相比 V1 的缩放，V2 的复合缩放还考虑了训练效率因素——不会为了精度而在某单个维度上堆太多资源。

d=αϕ,w=βϕ,r=γϕ,α⋅β2⋅γ2≈2d = \alpha^{\phi}, \qquad w = \beta^{\phi}, \qquad r = \gamma^{\phi}, \qquad \alpha \cdot \beta^2 \cdot \gamma^2 \approx 2
  1. d（深度缩放）网络层数随 φ 按指数 α^φ 增长，α 是深度分配系数。
    d=αϕd = \alpha^{\phi}
  2. w（宽度缩放）每层通道数按 β^φ 增长，β 是宽度分配系数。
    w=βϕw = \beta^{\phi}
  3. r（分辨率缩放）输入图像尺寸按 γ^φ 增长，γ 是分辨率分配系数。
    r=γϕr = \gamma^{\phi}
  4. 约束条件α·β²·γ² ≈ 2 保证 φ 每增加 1，总计算量大约翻倍——因为 FLOPs 与深度成正比、与宽度平方成正比、与分辨率平方成正比。
    FLOPs∝d⋅w2⋅r2≈(αϕ)(βϕ)2(γϕ)2=(αβ2γ2)ϕ≈2ϕ\text{FLOPs} \propto d \cdot w^2 \cdot r^2 \approx (\alpha^\phi)(\beta^\phi)^2(\gamma^\phi)^2 = (\alpha\beta^2\gamma^2)^\phi \approx 2^\phi

V2 对比 V1：新秀登场

新菜谱终于出炉，新旧对比一目了然。先看模块：V1 的基础模块几乎全是 MBConv（深度可分离卷积），V2 则用 Fused-MBConv 替换了网络早期阶段的大量 MBConv。别小看这个变化——早期层特征图空间尺寸大、通道数少，普通 3×3 卷积在这里计算开销不大，但内存访问效率远高于拆开的深度可分离卷积。

再看性能：V2-S 在 ImageNet 上的 top-1 精度与 V1-B1 相当或略高，但训练速度快了约 4-5 倍；V2-L 在保持比 V1-B7 更高精度的同时，训练速度快了约 5 倍。推理速度也有提升，尤其是在 GPU/TPU 上。

此外，V2 在训练策略上的变革同样意义深远。渐进式学习 + 动态正则化打破了“固定图像尺寸训练”的惯例，让训练效率与泛化能力同步提升。对于从业者而言，V2 宣告了一个时代转变：强模型不仅要准，更要训得快——把宝贵的 GPU 资源留给真正的算法迭代。

---

训练加速比=V1 训练时间V2 训练时间≈4∼5\text{训练加速比} = \frac{\text{V1 训练时间}}{\text{V2 训练时间}} \approx 4 \sim 5
  1. 训练时间在相同硬件和相同精度目标下，完成训练所需的总时长。
    Time=Epochs×(T前向+T反向)\text{Time} = \text{Epochs} \times \left( T_{\text{前向}} + T_{\text{反向}} \right)
  2. 分子（V1 训练时间）V1 因算子碎片化导致利用率低，训练时间远高于理论最优值。
    TimeV1=∑epochFLOPsV1利用率V1×峰值算力\text{Time}_{\text{V1}} = \sum_{\text{epoch}} \frac{\text{FLOPs}_{\text{V1}}}{\text{利用率}_{\text{V1}} \times \text{峰值算力}}
  3. 分母（V2 训练时间）V2 因 Fused-MBConv 和渐进式学习，训练效率大幅提升。
    TimeV2=∑epochFLOPsV2利用率V2×峰值算力\text{Time}_{\text{V2}} = \sum_{\text{epoch}} \frac{\text{FLOPs}_{\text{V2}}}{\text{利用率}_{\text{V2}} \times \text{峰值算力}}
  4. 加速比综合算子融合带来的利用率提升、渐进学习带来的收敛加速，最终总训练耗时缩短数倍。
    ⇒提速约 4∼5 倍，精度不降反升\Rightarrow \text{提速约 } 4\sim5 \text{ 倍，精度不降反升}

AI 应用场景

云端大规模图像分类训练

阶段：模型训练与调优

解决的问题：传统 EfficientNet V1 在 ImageNet 级别的大规模数据集上训练成本极高，团队迭代模型一次要等数周。V2 的 Fused-MBConv + 渐进式学习让训练时间缩短 4-5 倍，同样的 GPU 预算可以尝试更多超参数组合。

具体案例：一家 AI 公司的视觉团队需要每周在 100 万张业务图片上训练一个新分类模型。改用 EfficientNet V2-S 后，单次训练从 7 天压缩到 2 天，且精度持平。团队还能用省下的预算做更多数据增强和模型集成实验。

自动驾驶场景下的感知骨干网络

阶段：模型部署与推理优化

解决的问题：自动驾驶需要同时跑检测、分割、分类多个模型，骨干网络必须在精度和实时性之间取得平衡。V2 在浅层用 Fused-MBConv 降低了内存访问开销，GPU 上推理延迟显著低于 V1。

具体案例：某自动驾驶公司把视觉感知骨干从 V1-B4 换成 V2-S，在相同车规级 GPU 上，推理帧率从 25 FPS 提升到 40 FPS，同时 top-1 精度还提升了 0.5 个百分点。车端可以同时跑更多辅助感知任务。

企业私有化视觉质检平台的快速迭代

阶段：数据处理与模型迭代

解决的问题：制造业质检场景中，产线缺陷样本极少、收集周期长。渐进式学习的思想可以扩展到“先用小图快速筛选难样本，再针对难样本用大图细训”的两阶段流程，显著缩短模型上线周期。

具体案例：一家做 PCB 缺陷检测的创业公司用 EfficientNet V2 做缺陷分类。他们把 128×128 的粗筛模型先训练三天，再用 224×224 精修模型训练一天，整体迭代速度比之前快 3 倍，缺陷检出率提升至 99.2%。

Python 演示

python53 行
import torchimport torch.nn as nn  class SEBlock(nn.Module):    """通道注意力：压缩全局信息，学习通道重要性"""    def __init__(self, channels, se_ratio=0.25):        super().__init__()        squeezed = max(1, int(channels * se_ratio))        self.pool = nn.AdaptiveAvgPool2d(1)        self.squeeze = nn.Conv2d(channels, squeezed, 1)        self.expand = nn.Conv2d(squeezed, channels, 1)        self.silu = nn.SiLU(inplace=True)     def forward(self, x):        z = self.pool(x)        z = self.expand(self.silu(self.squeeze(z)))        return torch.sigmoid(z) * x  class FusedMBConv(nn.Module):    """Fused-MBConv：融合卷积一步完成空间混合与通道扩展"""    def __init__(self, in_channels, out_channels, kernel_size=3,                 stride=1, expand_ratio=4, se_ratio=0.25):        super().__init__()        hidden_dim = in_channels * expand_ratio        self.conv = nn.Conv2d(in_channels, hidden_dim, kernel_size,                              stride, padding=kernel_size // 2)        self.bn1 = nn.BatchNorm2d(hidden_dim)        self.silu = nn.SiLU(inplace=True)        self.se = SEBlock(hidden_dim, se_ratio)        self.project = nn.Conv2d(hidden_dim, out_channels, 1)        self.bn2 = nn.BatchNorm2d(out_channels)        self.use_res = (in_channels == out_channels) and (stride == 1)     def forward(self, x):        identity = x        x = self.silu(self.bn1(self.conv(x)))        x = self.se(x)        x = self.bn2(self.project(x))        if self.use_res:            x = x + identity        return x  if __name__ == "__main__":    # 输入：2 张 112x112 的 32 通道特征图    demo = torch.randn(2, 32, 112, 112)    layer = FusedMBConv(32, 64, stride=2)    out = layer(demo)    print("输入尺寸:", list(demo.shape))    print("输出尺寸:", list(out.shape))    print("Fused-MBConv 前向传播测试通过")
目的：用 PyTorch 实现 EfficientNet V2 的核心模块 Fused-MBConv，展示“融合卷积 + SE 注意力 + 残差连接”的完整前向过程。
  1. hidden_dim = in_channels * expand_ratio先通过 expand_ratio 扩展通道数，这是 MobileNet 系模块的“先升维再降维”设计。
  2. self.conv = nn.Conv2d(...)用单个普通卷积替代“深度卷积 + 逐点卷积”两步操作，这是 Fused-MBConv 的精髓。
  3. self.se = SEBlock(hidden_dim, se_ratio)通道注意力让模型学会“哪些通道更重要”，相当于给特征图称重。
  4. self.use_res = (in_channels == out_channels) and (stride == 1)只有尺寸不变时才启用残差连接，保证加法操作合法。
  5. x = self.silu(self.bn1(self.conv(x)))先卷积、再归一化、再激活，是 CNN 的标准操作顺序。
  6. x = self.bn2(self.project(x))最后的投影层把扩展后的通道压缩回目标输出通道数。

常见误区

误区入门时看到“Fused 融合”就认为它在任何网络层都比 MBConv 高效，于是把整条网络全部替换成 Fused-MBConv。

正解Fused-MBConv 只在浅层（通道数较少、特征图较大）时优势明显。深层特征图通道数动辄上千，普通 3×3 卷积的乘加开销远大于深度可分离卷积，反而拖慢训练。EfficientNet V2 最终只在前几个 stage 使用 Fused-MBConv，深层保留 MBConv。

为何常见：看到“融合”二字容易联想到“精简高效”，忽略了卷积计算量与通道数的平方关系。

误区把渐进式学习理解为“把 128 的图 resize 到 224 继续训练”，觉得只是数据增强的小把戏。

正解渐进式学习的关键是图像尺寸与正则化强度的联合调度。每切换一次图像尺寸，相当于换了一个优化landscape，如果不同步增大正则化，模型极易过拟合。两者协同才能保证训练既快又稳。

为何常见：只看到代码层面的 resize 操作，没理解训练策略的整体设计逻辑。

误区觉得用 NAS 搜出 EfficientNet V2 的结构后，拿到自己的数据集上微调就行，不需要重新搜索。

正解NAS 搜索是在特定任务（如 ImageNet）和特定硬件约束下进行的。换了任务和数据分布，最优结构会变。实际工作中，通常是在 V2 基础上做结构微调或只微调最后几层，而不是全盘重新搜索。

为何常见：把 NAS 等同于“一键自动调参”，忽略了搜索空间的构建和约束条件的设置才是精髓。

误区觉得 EfficientNet V2 出来后，V1 就该被彻底淘汰，所有场景无脑用 V2。

正解V1 在纯参数量（不关注训练速度）的移动端场景仍有优势，因为 V1-B0 的参数量非常小。V2 的优势集中在训练效率和 GPU/TPU 推理上。边缘端 CPU 推理、内存极小设备上，V1 小模型依然可打。

为何常见：被“新版本更强”的直觉裹挟，没有细看论文中的对比基线是“相同精度下的训练速度”，而非所有资源约束。

面试题

Q1. Fused-MBConv 与 MBConv 的核心区别是什么？

单选题 · easy

  • A.Fused 使用了更大的卷积核
  • B.Fused 将深度卷积和 1×1 卷积融合成普通卷积← 正确答案
  • C.Fused 增加了更多的通道数
  • D.Fused 去掉了注意力模块

答案：B。Fused-MBConv 的核心是把“深度卷积 + 逐点卷积”两步合并为一个普通卷积，减少内存访问。A 错在核大小不是区别关键；C 错在通道数与是否融合无关；D 错在 SE 注意力依然保留。

Q2. 渐进式学习训练过程中，随训练进度不断增大的量是？

单选题 · easy

  • A.学习率
  • B.批大小
  • C.图像分辨率← 正确答案
  • D.模型深度

答案：C。渐进式学习的关键是让输入图像分辨率从小（如 128）到大（如 300）递增，同时正则化强度也随之增强。学习率并不是单调增大的，批大小和模型深度在训练过程中一般保持不变。

Q3. EfficientNet V2 训练速度大幅提升，主要归功于哪两个设计？

单选题 · mid

  • A.更大的 Batch Size 和更强数据增强
  • B.Fused-MBConv 和渐进式学习← 正确答案
  • C.更深层的网络和更多通道
  • D.迁移学习和模型蒸馏

答案：B。V2 的两大核心创新就是 Fused-MBConv（算子融合提升硬件利用率）和渐进式学习（小图到大图的动态训练策略）。更大的 Batch 和更强的数据增强只是辅助手段，并非论文宣称的提速主力。

Q4. 关于渐进式学习，下列说法正确的有？

多选题 · mid

  • A.训练初期使用较小的图像尺寸← 正确答案
  • B.正则化强度随训练进度逐渐增强← 正确答案
  • C.图像尺寸全程保持固定不变
  • D.正则化强度先增后减

答案：AB。渐进式学习让图像尺寸逐步增大，正则化强度同步增强，所以 A 和 B 正确。C 恰好说反，D 中正则化只增不减，不先增后减。

Q5. NAS 搜索 EfficientNet V2 时，搜索目标相比 V1 增加的关键约束是？

单选题 · hard

  • A.模型参数量最小化
  • B.训练效率（FLOPs 与内存峰值）← 正确答案
  • C.卷积核大小不小于 5×5
  • D.必须全部使用 Fused-MBConv

答案：B。V2 的 NAS 把训练效率（FLOPs 和峰值内存）作为显式约束，确保搜出的模型训练快。A 不是 V2 的优化目标；C 和 D 是搜索空间里的选项而非约束条件。

Q6. EfficientNet 复合缩放策略中，同时被缩放的维度有哪些？

多选题 · mid

  • A.网络深度（层数）← 正确答案
  • B.网络宽度（通道数）← 正确答案
  • C.输入图像分辨率← 正确答案
  • D.训练数据量

答案：ABC。复合缩放同时调整深度 d、宽度 w 和分辨率 r，用统一系数 φ 控制三者增长。D 的数据量不是网络架构维度，不属于复合缩放的范畴。

Q7. EfficientNet V2 相比 V1 的主要提升体现在？

单选题 · easy

  • A.只有分类精度提升
  • B.精度和训练速度同步提升← 正确答案
  • C.只有推理速度提升
  • D.参数量大幅下降

答案：B。V2 的设计目标是“精度不降，训练速度大幅提升”，实际做到了精度持平或略高、训练快 4-5 倍。它并不是只提升精度或只提升推理速度，参数量也并未大幅下降。

Q8. EfficientNet V2 最终网络在浅层使用 Fused-MBConv、深层保留 MBConv 的原因是？

单选题 · mid

  • A.深层特征图通道多，融合卷积计算开销大← 正确答案
  • B.浅层不需要提取特征
  • C.深层不需要通道注意力
  • D.融合卷积无法堆叠

答案：A。浅层特征图空间大但通道少，融合卷积划算；深层通道数暴涨，普通 3×3 卷积开销远高于深度可分离卷积，所以深层保留 MBConv。B、C、D 都不符合论文中的设计动机。

Q9. 渐进式学习相比固定分辨率训练的优势包括？

多选题 · hard

  • A.减少早期训练的计算成本← 正确答案
  • B.让网络先学简单模式再学复杂模式← 正确答案
  • C.完全消除过拟合风险
  • D.配合逐步增强的正则化提升泛化能力← 正确答案

答案：ABD。小尺寸图像早期训练计算量小，且提供了类似课程学习的由简入繁路径，同时后期加强正则化抑制过拟合。C 错在过拟合无法被完全消除，只能被缓解。

Q10. Fused-MBConv 减少内存访问的根本原因是？

单选题 · hard

  • A.使用了更大的卷积核
  • B.将两个卷积算子合并为一次内核执行← 正确答案
  • C.去掉了 BatchNorm 层
  • D.把特征图压缩到更小尺寸

答案：B。深度卷积和 1×1 卷积原本需要在内存与计算单元之间往返两次，融合后只需一次内核启动和一次特征图读写。A、C、D 都未触及“算子合并”这一本质。