功耗与能效评测：TFLOPS/W浮点能效

可视化演示

动态展示TFLOPS/W能效公式(FLOPS/Power)、五种精度(FP32/FP16/BF16/INT8/INT4)能效对比、动态与静态功耗分解饼图、以及工艺节点演进(7nm→2nm GAA)能效提升趋势四个核心视角。

能效指标定义

老周的货运公司有个铁规矩：任何新车进车队之前，都要先跑一趟“油耗考试”。考试科目不是最高时速，而是一个自创指标——“吨公里/升”，意思是每烧一升油，拉着货跑出一吨货走一公里。有了这个数字，他才好计算每趟生意赚不赚钱：油钱是最大成本，车跑得再快，一趟下来算账是亏的，就不值得买。

AI 芯片的采购和运营，本质上也是算账。一块芯片的“速度”用 TFLOPS（每秒万亿次浮点运算）衡量——相当于卡车的最高时速；而“油耗”则是功耗，单位是瓦特（W）。把两者结合，就得到 AI 芯片的“吨公里/升”：TFLOPS/W 浮点能效，即每消耗 1 瓦功率，能换来多少万亿次浮点运算。

这个指标的精妙之处在于，它把算力和功耗放在同一个天平上。训练大模型时，GPU 集群一开就是几个月，电费账单动辄千万级。同样完成一个训练任务，A 芯片峰值算力高但功耗也高，每瓦产出反而不如 B 芯片时，B 芯片才是更划算的选择。因此业界把 TFLOPS/W 作为芯片能效的“度量衡”：硬件厂商用它宣传产品，云厂商用它核算成本，架构师用它做选型。

回到老周的账本：他能接受一辆卡车最高时速只有 100，只要“吨公里/升”足够高，跑长途就能省钱。同样，AI 工程师选芯片时，峰值算力再耀眼，也要先算一笔 TFLOPS/W 的账——毕竟电费不会说谎。

理论峰值能效

老周拿起新车宣传册，上面印着“百公里油耗 18 升”。他心里清楚，这是厂家在空车、平路、匀速 60 码、轮胎气压最佳的理想条件下测出来的。真实满载跑山路，油耗翻一倍都不奇怪。但“理论油耗”并非没用——它是所有车横向比较的基准线，没有这条线，连“差距多大”都说不清。

芯片厂商的规格书里同样印着两个“理想数字”：峰值算力（Peak TFLOPS）和热设计功耗（TDP，Thermal Design Power）。两者相除，就得到理论 TFLOPS/W——芯片在最理想状态下每瓦功率的算力上限。这个数字用来做“纸面对比”最公平，因为大家都是同样乐观的假设，就像宣传册油耗都是同一个套路测出来的。

峰值算力怎么来的？它假设芯片所有计算核心以最高频率同时运转，数学上是一个乘法公式（见下）。TDP 则代表散热系统必须压制住的最大发热功耗，由动态功耗（开关电路消耗）和漏电功耗（晶体管关不断漏掉的电）两部分构成。两者一除，就是理论能效——它回答“如果一切完美，这块芯片能有多省电”。

老周知道，宣传册油耗只能用来比车，不能用来算油费。同理，理论能效只能用来比芯片，真实场景里打折扣是必然的。下一节，我们就看看老周的车队进山送货后，油耗是怎么“现出原形”的。

实测差异成因

新车第一趟真实任务：满载、进城、爬坡、堵车、开空调。老周的“吨公里/升”一算，比宣传册足足低了四成。他叹了口气：“理论油耗是给展厅看的，真实油耗才是给自己看的。”原因不难理解：路况不可能永远理想，车也不可能永远全速。

芯片同样如此。理论 TFLOPS/W 默认计算单元永远满载，但现实里：数据要从内存搬到计算单元，访存带宽不够时，计算单元只能“干等”——这是最常见的瓶颈；芯片过热时会自动降频保护，算力掉下来；真实负载（比如某个 Transformer 模型）的算子形态五花八门，很难让所有核心同时跑满。三种因素叠加，实测能效必然低于理论值。

如何量化这种差距？我们引入效率比值 η，它是实测能效与理论能效之比，正常情况下恒小于 1。把两个能效式子展开化简后有一个有趣的结果：η 恰好等于“算力利用率”乘以“TDP 与实测功耗之比”。换句话说，利用率越低、实测功耗越高，能效打折越狠。

老周从此养成了习惯：新车买回来先按真实路线跑一个月，再决定要不要纳入主力车队。做 AI 基础设施的工程师也一样——拿到一块新芯片，先跑真实模型、量真实功耗，用 η 修正所有理论估算，才敢拍板“这车能上生产线”。

精度模式能效

老周发现，同样的路，用不同型号的车跑，“吨公里/升”差出好几倍：大重卡拉精密仪器、中卡拉普通零担、小面包车送快件——车厢越大越费油，但有些货物也非它不可。于是车队形成了分工：什么货配什么车，才能既省钱又不误事。

芯片世界里的“车型”就是计算精度。FP32（32 位浮点）像大重卡，精度高、算得准，但每瓦产出最低；FP16（16 位浮点）像中卡，精度稍降、算力翻倍；INT8（8 位整数）像小面包车，精度最粗，但单位瓦特的算力产出最高。模型训练的早期迭代用 FP32 求稳，蒸馏、量化部署阶段则大量切换到低精度。

为什么精度降低能效会翻倍？因为一次浮点运算的能耗与数据位宽强相关：位宽减半，同一块硅片上能塞进两倍的计算单元，每瓦算力随之翻倍。业界常用“相对能效比”量化这种提升：以 FP32 为基准，FP16 通常达到约 2 倍、INT8 达到约 4 倍能效——这也是所有 AI 芯片都要做低精度加速的原因。

老周的车队分工带来一个启示：能效最优不见得是精度最高，而是“货”与“车”匹配。做 AI 推理服务时，能用 INT8 就绝不浪费 FP32 的“大车厢”——省下的电费，就是实打实的利润。

架构设计指导

跑熟了几年运输，老周发现总在某一类路线上亏损。他索性找车厂定制：不要最大马力的发动机，要“省油到极致”的动力总成，车厢结构也按常拉货物重新设计。定制车出厂后，那条路线的利润率立刻翻了一倍——与其在现成车型里将就，不如让车为路线而生。

芯片架构师做的工作和老周如出一辙。拿到一个目标市场（比如“面向大模型推理的数据中心芯片”），先定两条硬约束：一是能效目标 E_target（对标竞品或客户能接受的电费水平），二是功耗预算 P_budget（由服务器供电能力、散热上限、机柜功率密度共同决定）。这两条一夹，目标算力就被唯一确定：F = P × E。

这个简单的乘法，实际上锁死了整条设计路线。目标算力定了，架构师就要在制程工艺、核心数量、频率、精度支持、访存带宽之间做取舍：采用更先进的制程（如 5nm 相比 7nm）能同时降低动态功耗并提升晶体管密度，是提升 TFLOPS/W 最直接的杠杆；而盲目堆大核、拉高频率一旦撞上功耗墙，能效反而下降。可以说，TFLOPS/W 就是架构设计的总指挥棒。

定制卡车省下的油钱，最后都变成了老周账本上的净利润；定制架构省下的功耗，则变成了云厂商机房里的更高算力密度和更低电费。能效指标不再只是“评测分数”，而是从源头塑造芯片形态的设计准则。

评测方法规范

老周被各种宣传油耗搞怕了，干脆立了一套自家的评测规矩：同一条路线、同一个装载重量、同一个司机、同一天同一时段跑三趟取平均。谁宣传数据再漂亮，都得按这个流程重新考试。规矩立下后，车队里的油耗数据终于“口径统一”，谁省油谁费油一目了然。

AI 芯片评测也必须有类似的“统一口径”。行业做法是：用标准化基准测试集（如 MLPerf、ResNet-50、GPT 类负载）当作“规定路线”，用统一的功耗仪在电网端采集功率（而不是读芯片自报的寄存器数值），并全程记录环境温度与散热配置。评测报告必须写清楚负载、精度、功耗测量点和环境条件，否则数值不可比。

从数学上看，一次完整的能效评测就是“总浮点运算量 ÷ 总能耗”。总运算量可以通过基准任务的工作量精确统计；总能耗则是功耗曲线对时间的积分。两者相除得到的是任务级平均能效，它比单点峰值更能反映真实使用体验——就像用整趟旅程的油耗而不是某一段下坡的油耗来评价卡车。

老周的公司里有一句话：“油耗不是比出来的，是同一把尺子量出来的。”芯片能效也是如此：统一的负载、统一的功耗计量、统一的报告格式，三件套齐了，不同芯片的 TFLOPS/W 才能在同一个度量衡下公平竞技。下次看到任何“XX TFLOPS/W“的宣传，先问一句：这是在哪条”路”上测的？

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""TFLOPS/W 能效评估小工具：对比理论能效与实测能效"""  def theoretical_eff(peak_tflops, tdp_w):    """理论能效 = 峰值算力 / 热设计功耗"""    return peak_tflops / tdp_w  def measured_eff(peak_tflops, tdp_w, utilization, power_draw=None):    """实测能效 = 实际算力(峰值x利用率) / 实测功耗"""    draw = power_draw if power_draw else tdp_w * 0.85    return peak_tflops * utilization / draw  def run_experiment(peak_tflops, tdp_w, loads=(0.3, 0.6, 0.9)):    """模拟不同负载下实测能效，并返回效率比值"""    theory = theoretical_eff(peak_tflops, tdp_w)    results = []    for load in loads:        eff = measured_eff(peak_tflops, tdp_w, load)        ratio = eff / theory        results.append((load, eff, ratio))    return theory, results  def main():    chips = {        "fp32_gpu": {"peak": 312, "tdp": 400},        "fp16_gpu": {"peak": 624, "tdp": 400},        "int8_gpu": {"peak": 1248, "tdp": 400},    }    print("芯片        负载    实测能效(TFLOPS/W)  效率比值")    for name, spec in chips.items():        theory, results = run_experiment(spec["peak"], spec["tdp"])        for load, eff, ratio in results:            print("%-10s  %4.0f%%   %12.2f        %5.2f"                  % (name, load * 100, eff, ratio))        print("            理论能效 = %.2f TFLOPS/W" % theory)        print()  if __name__ == "__main__":    main()

1. return peak_tflops / tdp_w理论能效就是峰值算力与 TDP 直接相除，对应宣传册上的“理想油耗”。
2. draw = power_draw if power_draw else tdp_w * 0.85没给实测功耗时，假设实际功耗约为 TDP 的 85%，贴近真实降频场景。
3. return peak_tflops * utilization / draw实际算力 = 峰值 × 利用率，再除以实测功耗，得到打折后的真实能效。
4. ratio = eff / theory效率比值 η，小于 1 表示能效打了多少折，对应文中“理论油耗 vs 实测油耗”的差距。
5. chips = {...}三种模式峰值算力依次翻倍，模拟精度从 FP32 降到 INT8 后“算力翻倍、功耗不变”的能效杠杆。
6. for load, eff, ratio in results:遍历三种负载水平，直观看出利用率越低、能效与理论值差距越大。

常见误区

面试题