老王开货运公司二十年，最近要换一批跑长途的重卡。他不再只看“马力大不大”——马力再大，油箱像漏了一样可不行。他学精了，看的是“每升油能拉多少吨货、跑多少公里”。这跟AI圈看芯片是同一个道理：一块AI芯片算得再快，如果耗电像电老虎，大模型训练的电费单能把利润吃光。于是，整个行业开始像老王一样，盯上一个指标——“性能功耗比”，也就是每瓦特算力能干多少活。 这篇文章就带你当一回“车队测评员”：先把“每瓦算力”这个概念讲明白，再教你一套标准路况测试法，看看几块主流AI芯片的真实油耗，最后聊聊为什么有的芯片天生省油、怎么让芯片更省油、以及选芯片时怎么算总账。学完你就能在AI硬件选型和能效优化中，看懂谁才是真正的“节油冠军”。

岗位关联

掌握训练性能功耗比的评测方法论，让你在AI训练硬件选型、算力成本核算与绿色AI方案设计中拥有数据决策力，是AI工程师进阶硬件视野的关键能力。

目录
  1. 可视化演示
  2. 能效比概念：卡车的“每升油拉货量”
  3. 能效评测方法：给所有卡车定一条“标准川藏线”
  4. 主流芯片横向实测：同一条赛道上的油耗对决
  5. 架构差异分析：为什么有的发动机天生省油
  6. 能效优化路径：老司机的省油驾驶手册
  7. 能效选型决策：老王的总账本
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

演示AI芯片训练性能功耗比评测：TFLOPS/W横向对比、评测基准设计、架构差异影响分析和功耗热管理，通过交互式动画展示芯片能效评估方法。

本节配有交互动效（进入视口后自动加载，约 3KB）。

TFLOPS/W能效对比 主流芯片训练能效排名 同等模型精度下对比 绿色AI选型参考指标 能效比是硬件选型的核心维度

能效比概念：卡车的“每升油拉货量”

老王去车行选车，销售指着一台600马力的巨无霸说：“看，力气大！”老王反问：“力气大，灌一箱油能跑多远？”销售愣住了。马力只回答了“能跑多快”，没回答“跑得起跑不起”。AI芯片世界也一样：NVIDIA的跑分单上写着FP16算力989 TFLOPS，听着吓人，但那家伙的功耗可达700瓦，训练一个千亿参数模型，一个月电费能抵半辆卡车。

所以工程师们发明了一个更实在的指标——性能功耗比，用算力除以功耗，单位是 TFLOPS/W，翻译成大白话就是“每瓦特功耗能提供多少万亿次浮点运算”。它像卡车的油耗标签：多少升油换多少吨公里，一目了然。这个指标把“速度”和“成本”拧到同一把尺子上，成为绿色AI时代衡量芯片是否“实在”的核心标尺。

当然，这个指标也有局限：它只反映芯片本体的理论能效，没算上数据中心的空调、电源损耗；而且芯片实际训练时很难跑满峰值算力。所以它更像车厂给的“理想油耗”，真实路况还得看后面的实测方法。

ηeff=TFLOPSW\displaystyle \eta_{\text{eff}} = \frac{\text{TFLOPS}}{W}
能效比 \eta_{\text{eff}} 表示每消耗1瓦特功耗，芯片每秒能完成多少万亿次浮点运算。数值越大，说明芯片越“省油”。
  1. 能效符号 \eta_{\text{eff}}这是能效比的惯用记号，\eta 是希腊字母“伊塔”，代表效率；\_text{eff} 下标强调“有效”的实测数据，而非纸面理论值。
    ηeff\displaystyle \eta_{\text{eff}}
  2. 分子 TFLOPSTera FLoating-point Operations Per Second，即每秒万亿次浮点运算，衡量芯片的“马力”，数字越大算得越快。
    TFLOPS\displaystyle \text{TFLOPS}
  3. 分母 WWatt（瓦特），衡量芯片满负荷工作时的“饭量”，数字越大吃得越多，电表转得越快。
    W\displaystyle W
  4. 除法关系算力除以功耗，得到“每瓦特能换来多少算力”，这正是把速度与成本统一成一把尺子的关键一步。
    TFLOPSW\displaystyle \frac{\text{TFLOPS}}{W}

能效评测方法：给所有卡车定一条“标准川藏线”

老王学聪明了：光看车厂印在宣传册上的油耗不准，那是在理想实验台上测出来的。他联系了第三方机构，把几款候选卡车拉到同一条山路，同样的货重、同样的司机开法、同样的空调设置，跑完全程再核对加油小票。芯片评测也是一样道理：必须建立标准化的能效评测方法，否则各家用自己的负载、自己的精度、自己的统计口径，数据根本没法比。

标准方法包含三个关键动作。第一是统一基准负载：所有芯片跑同一个模型、同一批数据、同样的训练步数和批次大小，比如固定一个GPT规模的小模型训练任务，保证每颗芯片干的是完全一样的活。第二是精度配置管理：统一使用FP16与FP32混合精度策略，避免有的芯片用低精度占便宜、有的被迫用高精度吃亏。第三是功耗采集技术：用外部功率分析仪测量整卡供电端的实时功率，按固定频率采样（如每100毫秒一次），记录整个训练过程的功耗曲线。

有了这套统一“路考”标准，不同芯片的能效数据才真正具有横向可比性。老王拿着同一张成绩单，终于可以公平地给候选卡车排队了。

ηˉeff=∑iFi∑i(Pi×Δti)\displaystyle \bar{\eta}_{\text{eff}} = \frac{\sum_{i} F_i}{\sum_{i} (P_i \times \Delta t_i)}
平均能效 = 整个训练过程完成的总浮点运算量 ÷ 累计消耗的总电能。它把“瞬时表现”整合成“全程油耗”，更贴近真实训练场景。
  1. 累加符号 \sum对训练过程中每一次采样片段求和，就像把每一段路程的油耗都记在小本子上，最后加总。
    ∑i\displaystyle \sum_{i}
  2. 分子 \sum F_i把所有时间段内完成的浮点运算次数加起来，即训练任务总共干了多少“吨公里”的活。
    ∑iFi\displaystyle \sum_{i} F_i
  3. 分母中的 P_i第 i 个采样时刻测得的瞬时功耗（瓦特），代表那一瞬间芯片的“饭量”。
    Pi\displaystyle P_i
  4. 分母中的 \Delta t_i第 i 次采样的时间间隔（秒），功耗乘以时长，就是这一小段消耗的电能，单位是焦耳。
    Δti\displaystyle \Delta t_i
  5. 整体比值总运算量除以总电能，消去时间单位后，得到“每瓦每秒能干多少活”，即去除了时间影响的平均能效。
    ηˉeff\displaystyle \bar{\eta}_{\text{eff}}

主流芯片横向实测：同一条赛道上的油耗对决

评测日到了。老王把四台重量级选手请上同一条“川藏线”——一个固定规模的Transformer训练任务，FP16混合精度，全程功耗仪采样。跑完一圈，数据出来了：

| 芯片 | FP16算力（TFLOPS） | 整卡功耗（W） | 实测能效（TFLOPS/W） |

| --- | --- | --- | --- |

| NVIDIA A100 | 312 | 400 | 0.78 |

| NVIDIA H100 | 989 | 700 | 1.41 |

| AMD MI300X | 1307 | 750 | 1.74 |

| 华为昇腾910B | 640 | 400 | 1.60 |

（注：上表为教学示例值，反映典型量级，非官方精确数据。）

先看两代“老将”：A100和H100同为NVIDIA家族，H100算力是A100的3倍多，功耗只涨了75%，能效从0.78跳升到1.41，提升约80%——这就是先进制程与架构迭代带来的“换发动机”效果。再看AMD的MI300X，用高算力堆出了全场最高的1.74 TFLOPS/W，说明“大力出奇迹”的路子依然有效。国产阵营的昇腾910B以400W功耗跑出400W级别相当亮眼的成绩单，与H100同一梯队。要让这些绝对数值有说服力，我们引入一个“相对提升率”：

老王看完榜单心里有了数：换代车型确实省油，但新来的选手也不少。他提醒自己，油耗数字背后是发动机结构的差异——下一节，他把引擎盖掀开看个究竟。

G=(ηnewηold−1)×100%\displaystyle G = \left( \frac{\eta_{\text{new}}}{\eta_{\text{old}}} - 1 \right) \times 100\%
相对能效提升率 G：用新芯片的能效除以旧芯片的能效，减1再乘100%，得到提升的百分比。比如从A100到H100，G约等于81%。
  1. 分子 \eta_{\text{new}}新芯片的实测能效，比如H100的1.41 TFLOPS/W，代表“新一代发动机”的油耗水平。
    ηnew\displaystyle \eta_{\text{new}}
  2. 分母 \eta_{\text{old}}旧芯片的实测能效，比如A100的0.78 TFLOPS/W，作为对比基准线。
    ηold\displaystyle \eta_{\text{old}}
  3. 减1比值减去1，得到“比旧芯片多了多少倍”，而不是“新芯片是旧芯片的几倍”，这样结果更直观。
    ηnewηold−1\displaystyle \frac{\eta_{\text{new}}}{\eta_{\text{old}}} - 1
  4. 乘100%把小数倍数换算成百分比，方便写进采购报告和汇报PPT。
    G=(ηnewηold−1)×100%\displaystyle G = \left( \frac{\eta_{\text{new}}}{\eta_{\text{old}}} - 1 \right) \times 100\%

架构差异分析：为什么有的发动机天生省油

同样的载重和路况，柴油机比汽油机省油，混动在市区比高速更香——发动机的“性格”由内部结构决定。AI芯片的能效差异，同样深埋在架构设计里。第一层是GPU通用优势：GPU拥有海量CUDA核心和成熟的软件生态，什么模型都能跑，但通用性意味着大量晶体管用于调度、缓存和分支预测，这部分电路不干“浮点运算”的活却照样耗电，相当于卡车带了全套厨房设备，备而不用也费油。

第二层是ASIC专用路线：谷歌TPU、华为昇腾这类专用芯片把电路几乎全部铺成矩阵乘法单元，砍掉了通用调度开销，跑神经网络时每瓦能效极高，就像只运集装箱的专用挂车，不拉散货时省油到极致。第三层是HBM存储瓶颈：高带宽内存（HBM）决定数据喂给计算单元的速度。如果带宽不够，计算单元会像堵在路上的引擎，空转等待数据，白白烧油——这就是“存储墙”效应，实际有效能效远低于纸面值。第四层是先进制程影响：4nm工艺的晶体管漏电更小、电压更低，基础功耗自然更省。

所以，别只盯着架构名词想当然：GPU灵活但费电，ASIC省电但挑活，HBM带宽和制程工艺则像“路况”与“车况”的底层因素。老王摸着引擎盖感慨：省油的发动机，是把每一滴油都用在推动车轮上，而不是浪费在空转和附件上。

ηeff=ηpeak×U\displaystyle \eta_{\text{eff}} = \eta_{\text{peak}} \times U
有效能效 = 峰值能效 × 实际利用率。芯片不可能永远满负荷跑，利用率 U 越低，实际能效离峰值越远，就像卡车堵车时发动机再省油也白搭。
  1. \eta_{\text{peak}}峰值能效，即算力满跑时的理论能效，是架构和制程决定的“天赋上限”。
    ηpeak\displaystyle \eta_{\text{peak}}
  2. 利用率 U实际训练中计算单元忙活的时间占比，0到1之间的小数。数据搬运、同步等待都会让 U 下降。
    U\displaystyle U
  3. 相乘关系峰值能效乘以利用率，把“理想天赋”折算成“现实表现”。存储带宽不足或调度低效，都会通过拉低 U 来侵蚀能效。
    ηeff=ηpeak×U\displaystyle \eta_{\text{eff}} = \eta_{\text{peak}} \times U

能效优化路径：老司机的省油驾驶手册

老王开了二十年车，攒下一套省油心得：轻踩油门、少踩刹车、适时滑行。芯片能效优化，同样有一本“省油驾驶手册”。第一招是低精度训练：把训练精度从FP32降到FP16甚至FP8，数据带宽需求减半，算力单元吞吐翻倍，而功耗只有轻微增长——就像给卡车换上更轻的货箱，载重不变，油耗大降。但要小心，精度过低可能导致模型不收敛，相当于货没送到又折返重跑，反而更费油。

第二招是稀疏化计算：大模型里大量权重接近零，2:4结构化稀疏技术可以跳过一半的零值计算，让等效算力翻倍而功耗几乎不变，能效直接提升近一倍。第三招是动态功耗管理（DVFS）：训练不同阶段负载波动，动态调整芯片的电压和频率，空闲时降频省电，高峰时火力全开，像老司机根据路况实时换挡。第四招是散热联动调优：改用液冷替换风冷，风扇耗电大减，芯片温度降低后漏电流也减少，一箭双雕。

这些手段不是孤立的，组合使用效果更佳。老王把“轻油门、少刹车、巧滑行”教给车队所有司机，油耗立刻降了一截。AI团队也一样，把低精度、稀疏化、DVFS和液冷打成一整套组合拳，大模型训练的“油耗”能肉眼可见地降下来。

η′=η×αβ\displaystyle \eta' = \eta \times \frac{\alpha}{\beta}
优化后的能效 = 原始能效 ×（算力提升倍数 ÷ 功耗增长倍数）。只要算力涨得比功耗快，能效就会提升——这就是一切优化手段的基本逻辑。
  1. 原始能效 \eta未优化时的能效基线，比如H100的1.41 TFLOPS/W。
    η\displaystyle \eta
  2. 算力提升倍数 \alpha优化后算力变为原来的多少倍。稀疏化让算力翻倍则 \alpha = 2，低精度让吞吐翻倍同理。
    α\displaystyle \alpha
  3. 功耗增长倍数 \beta优化后功耗变为原来的多少倍。低精度和稀疏化通常让功耗只增长一点点，如 \beta = 1.1。
    β\displaystyle \beta
  4. 比值 \alpha / \beta算力增速与功耗增速之比。大于1说明“活干得多了但饭没多吃”，能效净提升。
    αβ\displaystyle \frac{\alpha}{\beta}

能效选型决策：老王的总账本

油耗测评做完，省油技巧也学了，老王终于坐到办公室里算总账。他拿出一张“购车总成本表”：第一行是采购价，第二行是五年油费，第三行是保养和保险。买一台省油但贵的车，五年下来可能比买一台费油但便宜的车更划算。AI芯片选型同样要看TCO（Total Cost of Ownership，总拥有成本），而不只是采购单价和能效数字。

除了芯片本身的功耗，还要乘上数据中心的PUE（Power Usage Effectiveness，电源使用效率）。PUE是1.5时，意味着数据中心每消耗1.5度电，只有1度真正送到芯片上，另外0.5度损耗在供电和散热上。所以省电的芯片在差PUE机房里的优势会被放大——老王说，这就像加油站自己先漏了油，你再省油的卡车也白搭。正因为能耗已成为AI算力扩张的最大瓶颈，绿色AI浪潮正推动业界建立统一的能效评测标准，让“每瓦算力”成为像“百公里油耗”一样公开透明的采购指标。

老王最终在合同上签了字：买能效最拔尖的那批车，虽然贵一点，但五年油费省出来的钱够再买三辆。AI圈的采购决策也正走向同样的逻辑：谁把每瓦算力用到了极致，谁就能在算力军备竞赛中跑得更远、更久。

Ctotal=Chw+Pavg×t×celecPUE\displaystyle C_{\text{total}} = C_{\text{hw}} + \frac{P_{\text{avg}} \times t \times c_{\text{elec}}}{\text{PUE}}
总拥有成本 = 硬件采购价 +（平均功耗 × 运行时长 × 电价）÷ PUE。第二项才是真正吃掉利润的“隐形流水”。
  1. 硬件成本 C_{\text{hw}}芯片或整机的采购价格，这是账本上最醒目的一行，但往往不是最大的一行。
    Chw\displaystyle C_{\text{hw}}
  2. 平均功耗 P_{\text{avg}}训练任务全程的平均功耗（瓦特），由前面的标准评测方法测出，代表这台“发动机”的日常饭量。
    Pavg\displaystyle P_{\text{avg}}
  3. 运行时长 t 与电价 c_{\text{elec}}训练任务跑多久、当地一度电多少钱，两者与功耗相乘得到“电费毛坯值”。
    Pavg×t×celec\displaystyle P_{\text{avg}} \times t \times c_{\text{elec}}
  4. 除以 PUE数据中心自身也在耗电，用 PUE 放大芯片电费——PUE越高，实际电费越贵，省油芯片的收益越显著。
    Pavg×t×celecPUE\displaystyle \frac{P_{\text{avg}} \times t \times c_{\text{elec}}}{\text{PUE}}

AI 应用场景

数据中心绿色算力采购

阶段：硬件选型与算力规划

解决的问题：传统采购只看芯片算力峰值和单价，导致训练集群建成后电费失控、PUE超标。采用标准能效评测方法后，采购方可以用统一负载对候选芯片进行TFLOPS/W实测，结合TCO模型计算五年总成本，让“省油”成为硬指标。

具体案例：某云厂商计划采购2000张加速卡搭建大模型训练集群。团队搭建了一套标准评测环境，对A100、H100、昇腾910B进行同一模型训练测试，测出各自的平均能效与功耗曲线，再代入当地工业电价和机房PUE测算。结果显示能效最高的方案虽然采购价高15%，但五年电费节省38%，最终被选中。

芯片设计团队的能效回归测试

阶段：芯片研发迭代

解决的问题：芯片设计公司在迭代架构时，仅用benchmark跑分衡量性能提升，无法发现“算力高了但能效降了”的隐性退步。将能效评测方法嵌入CI流程，每次架构改版后自动跑标准训练任务并对比TFLOPS/W，确保每一代芯片既快又省。

具体案例：某国产AI芯片公司在新一代NPU流片后，使用标准Transformer训练任务对比上一代产品。测试发现算力提升30%但功耗增加45%，能效反而下降。工程师据此定位到HBM带宽配置不足导致计算单元空转，调整存储调度后能效回归正常水平。

大模型训练电费成本测算

阶段：模型训练成本控制

解决的问题：算法团队训练千亿参数大模型前无法预估电费预算，经常训练到一半被财务叫停。借助能效评测数据，可提前按“训练总FLOPs ÷ 芯片能效 = 总能耗”估算电费，从而选择最经济的芯片组合和训练策略。

具体案例：某AI公司计划训练一个1.8万亿参数MoE模型，预估总计算量约3×10^24 FLOPs。团队使用H100的实测能效1.41 TFLOPS/W，估算出总能耗约2.1×10^12焦耳，折合约59万度电，按0.6元/度算电费约35万元。据此在FP8低精度方案与FP16方案间做出成本对比，选定混合策略并成功控制预算。

Python 演示

python51 行
import mathimport random class EnergyBenchmark:    def __init__(self, chip_name, peak_flops, rated_power):        self.chip_name = chip_name          # 芯片名称        self.peak_flops = peak_flops        # 峰值算力, TFLOPS        self.rated_power = rated_power      # 额定功耗, W        self.samples = []                   # 采样记录列表        self.step_count = 0                 # 已执行训练步数     def step_training(self, batch_flops, util_ratio):        """模拟一步标准负载训练, 记录耗时与功耗"""        t_sec = batch_flops / (self.peak_flops * util_ratio)        p_avg = self.rated_power * (0.85 + 0.15 * util_ratio)        self.samples.append((batch_flops, t_sec, p_avg))        self.step_count += 1        return t_sec, p_avg     def report(self):        """计算全流程平均能效(TFLOPS/W)与总能耗(J)"""        total_flops = sum(s[0] for s in self.samples)        total_energy = sum(s[1] * s[2] for s in self.samples)        eff = total_flops / total_energy / 1e12        return eff, total_energy def run_suite(chip):    """执行100步标准训练负载"""    random.seed(42)    for i in range(100):        ratio = 0.72 + 0.08 * math.sin(i / 9) + random.uniform(-0.03, 0.03)        chip.step_training(2.4e13, ratio)    return chip.report() def main():    chips = [        EnergyBenchmark("A100", 312, 400),        EnergyBenchmark("H100", 989, 700),        EnergyBenchmark("MI300X", 1307, 750),        EnergyBenchmark("910B", 640, 400)    ]    results = []    for c in chips:        eff, energy = run_suite(c)        results.append((eff, c.chip_name))        print("%-8s TFLOPS/W=%.2f total_energy=%.2f MJ" % (c.chip_name, eff, energy / 1e6))    results.sort(reverse=True)    print("能效冠军: " + results[0][1]) if __name__ == "__main__":    main()
目的：实现一个标准负载能效评测器，对多块AI芯片执行相同的训练步数，统计总浮点运算量与总能耗，输出TFLOPS/W能效排名。
  1. class EnergyBenchmark:定义芯片能效评测类，每颗芯片对应一个评测对象，类似车队里的一台测试卡车。
  2. self.samples = []采样记录列表，保存每一步的运算量、耗时和功耗，是计算平均能效的数据仓库。
  3. def step_training(self, batch_flops, util_ratio):模拟一步标准负载训练，根据算力和利用率推算耗时，再按负载轻重微调功耗。
  4. p_avg = self.rated_power * (0.85 + 0.15 * util_ratio)功耗不是恒定的，利用率越高功耗越接近额定值，模拟真实训练中的功耗波动。
  5. self.samples.append((batch_flops, t_sec, p_avg))把每一步采样的三元组记入列表，对应评测方法中的“功耗采集技术”。
  6. def report(self):汇总所有采样点，计算总浮点运算量和总电能消耗。
  7. total_energy = sum(s[1] * s[2] for s in self.samples)每步功耗瓦特乘以耗时秒得到焦耳能量，累加即总能耗。
  8. eff = total_flops / total_energy / 1e12总FLOPs除以总焦耳再缩小1e12倍，得到TFLOPS/W能效，这正是全文的核心指标。
  9. ratio = 0.72 + 0.08 * math.sin(i / 9) + random.uniform(-0.03, 0.03)模拟训练中利用率围绕72%波动的真实场景，避免用恒定峰值算力计算。
  10. results.sort(reverse=True)按能效从高到低排序，输出“油耗排行榜”，对应横向对比环节。

常见误区

误区我觉得买芯片就看TFLOPS，算力数字越大肯定越先进，跑得越快自然越省，毕竟时间短了电费就少。

正解算力是“马力”，能效是“每升油跑的吨公里”，两者没有必然关系。一块芯片算力高但功耗飙升，就像一台V12发动机百公里耗油30升，拉货效率可能反而不如一台省油的柴油机。MI300X算力比H100高32%，功耗也只高7%，所以能效更高；但如果另一颗芯片算力翻倍、功耗翻三倍，能效就会掉头向下。必须用“能效=算力÷功耗”这个比值衡量，不能只看单边。

为何常见：厂商宣传总是突出算力峰值，功耗数据被藏在参数表角落，长期浸泡在这种信息里，自然形成“算力=性能=先进”的直觉。

误区官方参数表写了峰值TFLOPS和TDP功耗，拿这两个数一除不就是能效吗？何必费劲搭环境实测？

正解纸面能效是“理想实验室油耗”，真实训练中芯片利用率往往只有70%左右，功耗也在额定值附近波动。用峰值算力除以最大功耗，算出来的是“瞬时极限能效”，完全不能代表整个训练周期。正如老王的油耗测试：必须跑完固定路线、记录全程加油量，才能得到有意义的“百公里油耗”。标准评测方法用实际训练负载、统一精度配置、全程功耗采样，才算出有决策价值的平均能效。

为何常见：峰值参数触手可得、实测成本高，人天然倾向于用最省力的数据做决策，忽略了“纸面≠实际”这个朴素道理。

误区选能效最高的芯片，电费就省下来了，数据中心PUE什么的跟芯片选型没关系吧？

正解数据中心里每1度电真正送到芯片上的只有1/PUE。PUE=1.5就意味着一度电要交1.5度的钱。如果机房PUE很高，即使芯片本身省电，整体电费依然惊人。更关键的是，省电的芯片发热少，散热压力小，能反过来帮助降低PUE，形成良性循环。所以选芯片必须把PUE放进TCO公式一起算，就像老王不仅要看卡车油耗，还要看加油站本身漏不漏油。

为何常见：大家习惯把“芯片”和“机房”当成两个孤立话题，而TCO总成本视角需要跨层思考，初学者最容易忽略系统级的能耗放大效应。

误区FP8比FP16算力翻倍，功耗还低，那所有训练任务都上FP8，能效直接起飞。

正解低精度确实提升算力和能效，但精度过低会让模型梯度噪声变大，训练不收敛或loss发散，等于卡车跑了一半货物散架，要折返重装，总油耗反而更高。正确的做法是“精度配置管理”：大部分层用FP16/BF16，敏感层保持FP32，像老司机根据路况选择挡位，而不是一路踩地板油。能效优化要放在“任务成功完成”的前提下来算总账。

为何常见：看到低精度带来的“免费算力”红利，容易忽略数值稳定性这个隐性成本，毕竟宣传材料只讲提速，不讲翻车风险。

面试题

Q1. 性能功耗比TFLOPS/W描述的是芯片的什么特性？

单选题 · easy

  • A.每瓦功耗提供的算力← 正确答案
  • B.每秒最高运算次数
  • C.芯片工作频率高低
  • D.显存总容量大小

答案：A。TFLOPS/W是算力除以功耗的比值，核心是“每瓦特能干多少浮点运算”，对应卡车“每升油拉多少货”。B只说了算力，C说的是频率，D说的是显存，都与能效定义无关。

Q2. 评测芯片能效时，为什么要统一训练模型？

单选题 · easy

  • A.确保各芯片算力相同
  • B.确保训练负载可比← 正确答案
  • C.降低整体测试功耗
  • D.提高芯片运行频率

答案：B。统一模型和负载，是保证每颗芯片干完全一样的活，这样测出的能效才有横向可比性，就像老王的油耗测试必须在同一条路上跑。A和D不是评测能控制的事，C也不是统一模型的目的。

Q3. 下列哪种芯片架构通常最专注矩阵运算能效？

单选题 · easy

  • A.高灵活度的通用GPU
  • B.专用矩阵运算ASIC← 正确答案
  • C.通用控制型处理器
  • D.网络交换通信部件

答案：B。ASIC（如TPU、昇腾NPU）把电路几乎全部用于矩阵乘法，砍掉通用调度开销，每瓦能效极高，就像专用集装箱挂车比全能越野车省油。通用GPU灵活但冗余电路耗电，CPU和网络部件更不是为矩阵运算设计的。

Q4. 从A100到H100，能效从0.78提升到1.41 TFLOPS/W，相对提升率约为多少？

单选题 · mid

  • A.百分之二十左右
  • B.百分之五十左右
  • C.百分之八十左右← 正确答案
  • D.百分之一百五十

答案：C。(1.41 ÷ 0.78 - 1) × 100% ≈ 80.8%，即H100比A100每瓦算力提升了约八成。这对应“相对能效提升率”公式 G = (η新/η旧 - 1) × 100%，属于典型的跨代架构红利。

Q5. 数据中心PUE=1.5表示什么？

单选题 · mid

  • A.总耗电中IT设备占1度← 正确答案
  • B.约半数电能损耗在散热
  • C.芯片能效得到一倍提升
  • D.供电系统功率因数受限

答案：A。PUE=1.5表示每消耗1.5度电才有1度送到IT设备，另外0.5度损耗在供电和散热上，占三分之一。B说“半数”不准确；C和D与PUE语义无关。选芯片时功耗要除以PUE折算真实电费。

Q6. 下列哪些属于有效的能效优化手段？

多选题 · mid

  • A.采用混合精度训练← 正确答案
  • B.扩大机房的空调功率
  • C.启用2:4结构化稀疏化← 正确答案
  • D.提升电压进行极限超频

答案：AC。混合精度和稀疏化都能实现“算力增速大于功耗增速”，从而提升能效。扩大空调只会增加总能耗，超频提升功耗但不线性提升算力，反而降低能效。一切优化都要回到η' = η × α / β 这个比值逻辑。

Q7. 计算单元因HBM带宽不足而频繁空转等待数据，最直接的后果是什么？

单选题 · mid

  • A.显存带宽自动增大
  • B.有效能效显著降低← 正确答案
  • C.芯片功耗自动下降
  • D.峰值算力明显提升

答案：B。带宽不足时计算单元空转，但电路依然通电耗电，“没干活却吃饭”导致有效能效下降，对应公式 η_eff = η_peak × U 中利用率U大幅降低。A和D不是带宽不足的结果，C中功耗不会自动下降。

Q8. 标准能效评测中，为什么功耗采集要用外部功率分析仪？

单选题 · mid

  • A.提高芯片的运行频率
  • B.保证功耗数据可信← 正确答案
  • C.降低训练时的功耗
  • D.简化模型训练流程

答案：B。外部功率分析仪直接测量供电端功率，比芯片自报功耗更客观可信，就像第三方油耗测试用自己接的油表，不用车上的快乐表。A和C是功耗控制手段，D与数据采集无关。

Q9. 进行标准能效评测时，需要严格控制哪些变量？

多选题 · hard

  • A.训练模型与输入数据← 正确答案
  • B.混合精度训练配置← 正确答案
  • C.机房环境温度区间← 正确答案
  • D.芯片品牌与型号

答案：ABC。评测要保证“同一条路、同样的货、同样的开法”：模型、精度、环境温度都必须统一，否则数据不可比。芯片品牌和型号恰恰是被测对象、是需要比较的变量，不能控制。环境温度影响散热功耗和漏电流，必须纳入控制范围。

Q10. 标准评测中，平均能效的正确计算方式是？

单选题 · extreme

  • A.总浮点运算除以总能耗← 正确答案
  • B.峰值算力除以额定功耗
  • C.芯片频率乘以核心数
  • D.平均功耗乘以训练时长

答案：A。平均能效 = 总FLOPs ÷ 总能量(J) ÷ 1e12，即用全程累计的运算量除以全程累计电能，是“全程油耗”的概念。B是纸面峰值能效，C只是频率计算，D算出的是电能本身而非能效。标准方法的精髓在于“用总账算效率”。