能效评估：FLOPS/Watt

可视化演示

三步展示AI芯片能效核心指标FLOPS/Watt：主流芯片能效对比（A100/H100/MI300X/Gaudi2/昇腾910B）、不同精度模式能效差异（FP64→INT8能效递增约8倍）、十年能效演进趋势（Kepler→Hopper提升约87倍）。

能效概念

买车时，销售报完马力，你通常会追问一句：“这车百公里几个油？”AI 芯片圈子里，这句话的等价问法是：“你这卡跑满是多少瓦？每瓦能跑多少 FLOPS？” FLOPS 就是算力世界的“马力”，Watt 则是“油耗”，而把二者放在一起得到的比值——每瓦特电能所能提供的浮点运算次数——就是芯片界的“百公里油耗”：FLOPS/Watt。

FLOPS 全称 Floating-point Operations Per Second，即每秒浮点运算次数；Watt 是功率单位，表示芯片每秒消耗多少焦耳能量。一个芯片的 FLOPS 再高，如果功耗也高得离谱，就像一台 600 马力的油老虎，跑得快却养不起。能效指标把这两件事放在同一个除法里，一眼看清这台“算力车”到底划不划算。

更严谨地说，能效的计算公式并不复杂：

其中 $E$ 为能效（FLOPS/Watt），$F$ 为浮点运算率（FLOPS），$P$ 为功耗（Watt）。

理解了这层“除法关系”之后你会发现：关注能效并不是否定算力，而是给算力加了一把“成本尺”。就像老司机选车，先看油耗再看马力，AI 架构师选卡，也应当先看 FLOPS/Watt 再看峰值 FLOPS——毕竟电费单不会陪你演戏。

精度差异

同样是跑一百公里，高速公路、城市环路和盘山公路的油耗完全不同。AI 芯片也有三种典型的“路况”：FP32 是高速路——每条数据都用 32 位浮点精确表示，算得准但每个运算单元又大又费电；FP16 是城市环路——精度稍降但吞吐翻倍，能效立马上了一个台阶；INT8 则是山间小路——用 8 位整数糊弄过去，但功耗只有 FP32 的零头，能效往往高出数倍。

现代 AI 加速器在硬件层面就为不同精度准备了独立流水线。同一块芯片，跑 INT8 的算力常常是 FP32 的 4 到 8 倍，而功耗增长却远低于算力增长。这种“路况差异”直接体现在能效上：低精度任务天然拥有更高的 FLOPS/Watt。于是有了一个常用的“精度能效比”公式：

$\eta$ 表示低精度相对高精度的能效提升倍数，通常远大于 1。

所以在阅读任何芯片的能效数据之前，先问一句“这是什么精度下测的？”就像看油耗之前先问“这是高速油耗还是市区油耗？”FP32 的 20 TFLOPS/Watt 和 INT8 的 80 TFLOPS/Watt 之间没有可比性，硬要比，就像拿别人下坡的油耗嘲讽你上坡的油耗一样不讲理。

测量方法

工信部在车窗上贴的油耗标签，老司机们从来只当参考——真正省不省油，得自己加满油、跑一段路、再加满才算数。芯片能效也一样，纸面峰值 FLOPS/Watt 再漂亮，也得用真实负载“路测”一遍才作数。

业界通行的做法分三步：第一，选定一个标准负载，比如 ResNet-50 图像分类这样的基准模型，固定 batch size 与输入分辨率；第二，让芯片全速跑起来，用功耗计或板级传感器记录实时功耗，取一段时间内的平均值 $P_{\text{avg}}$；第三，统计这段时间里模型推理的吞吐率 $R$（每秒处理多少样本），并乘以每个样本对应的浮点运算量 $N_{\text{ops}}$，得到真实有效算力。最后代入公式：

公式左边是实测能效，右边分子是“这段时间实际干了多少浮点运算”，分母是“这段时间平均烧了多少瓦”。

值得注意的是，标准负载的选择会直接影响结果：跑卷积网络和跑 Transformer 的能效可能差出 30%。因此行业里主张“负载透明”——报告能效时，必须同时说明负载模型、精度、batch size 和功耗采样方式。就像说油耗时必须说明“开没开空调、载了几个人”一样，否则数字就成了任人打扮的小姑娘。

横向比较

小区里的大爷们比油耗有个规矩：不比排量，比同一段路、同一箱油谁跑得远。横向比较 AI 芯片的能效也是同一个道理——只有在相同的精度、相同的负载、相同的功耗采样条件下，FLOPS/Watt 才有可比性。把 A 厂 INT8 的能效拿去比 B 厂 FP32 的能效，无异于拿越野车的越野能力跟跑车的弯道速度比。

实际选型时，工程师会构建一张“能效选型矩阵”：横轴是候选芯片，纵轴是目标场景（如训练 FP16、推理 INT8、边缘 FP32），单元格里填上对应精度下的实测 FLOPS/Watt。对于多场景的复杂选型，可以用加权归一化得分做综合排名。设第 $i$ 款芯片在第 $j$ 个场景下的能效为 $E_{i,j}$，该场景权重为 $w_j$，则综合得分为：

其中 $E_{\text{best},j}$ 是第 $j$ 个场景下所有候选芯片中的最高能效。$S_i$ 越接近 1，说明该芯片越贴合你的实际负载画像。

不过要提醒一句：能效高不代表一定选它。就像省油的车可能空间小、动力肉，能效最高的芯片可能软件生态差、采购价格贵。横向比较表格的意义不是“一票定生死”，而是帮你把“省油的账”和“马力的账”放在同一张桌子上，最终结合采购成本、供货周期做综合决策。

绿色算力

为什么现在大家都在聊省油？因为油价贵，还因为排气管里的二氧化碳有“碳账”。数据中心是耗电大户，一台 AI 服务器满载轻松超过 2 千瓦，一个机柜跑满是 20 千瓦起步。电费是数据中心最大的单笔运营成本，而发电排碳又是实打实的环保账。所以，FLOPS/Watt 不只是个工程指标，它还是绿色金融语境下的“碳效率”指标。

数据中心通常用 PUE（电能使用效率）描述总能耗与 IT 设备能耗之比，PUE 越接近 1 越好。若要估算一次 AI 训练任务的碳排放，可以把它拆成三步：任务总算力需求、芯片能效、PUE 和电网碳排因子。公式如下：

$F_{\text{task}}$ 是训练任务的总浮点运算量，$E_{\text{avg}}$ 是芯片在对应精度下的平均能效，$\text{EF}_{\text{grid}}$ 是电网每度电对应的碳排放因子（kg CO₂/kWh）。

越来越多的云厂商和政企采购把“单位算力碳排”写进招标书，能效高的芯片在绿色采购评审中能拿到真金白银的加分。曾有位云平台负责人说过一句实在话：“我们买的不只是算力，还买的是电费账单和 ESG 报告。” 早一步算清这笔“碳账”，就能在绿色算力浪潮里少交点学费。

应用案例

前面讲了这么多，最后落到老司机的日常：你手里有一笔预算，面前是五六款候选芯片，业务负载画像已经画好，该怎么选？答案是走完整条“油耗评估流水线”：挑路况（定精度与负载类型）→ 看路测（跑基准、记功耗、算能效）→ 算油费（结合电价、PUE、任务时长估算 TCO）→ 再签字下单。

举三个真实场景。大模型训练选型：训练任务以 BF16/FP16 为主，负载稳定且长期满载，优先选择高精度模式下 FLOPS/Watt 最高的芯片，因为训练集群一年 365 天×24 小时满载，能效差 10%，电费就能差出几十万。边缘推理部署：设备往往用电池供电或有散热上限，此时能效是第一约束，宁可牺牲部分算力也要把整机功耗压在预算线下。液冷集群设计：高功耗芯片的能效虽高，但机柜功耗密度会触发散热改造，需要把液冷成本算进总账。面对这类工程决策，一个实用公式是训练或推理任务的能耗估算：

$N_{\text{flops}}$ 是任务总浮点运算量，$E$ 是芯片实测能效，$U$ 是算力利用率（通常在 0.3~0.8 之间）。

想上一个台阶，还可以在调度层做“混合精度路由”：把对精度敏感的任务丢给 FP32，把容忍误差的任务丢给 INT8 路径，让芯片始终工作在能效最高的“转速区间”。这就像老司机在高速上巡航、在市区滑行，把每一滴油都用在刀刃上——整机平均能效往往能再提升 30% 以上。

---

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""芯片能效评估演示：计算 FLOPS/Watt 并给出选型建议""" CHIPS = {    "TurboMax-9": {"FP32": (120, 300), "FP16": (240, 280), "INT8": (480, 260)},    "EcoCore-1":  {"FP32": (90, 150),  "FP16": (180, 140), "INT8": (400, 150)},    "PowerBeast": {"FP32": (180, 550), "FP16": (360, 520), "INT8": (700, 500)},} PRECISIONS = ["FP32", "FP16", "INT8"]PRICE_PER_KWH = 0.6   # 电价：元/度HOURS_PER_YEAR = 8000 # 年运行时长  def compute_efficiency(tflops, power_watt):    """能效 = 每瓦特提供的 TFLOPS"""    return tflops / power_watt  def rank_chips(constraint_watt=400, precision="FP16"):    """在指定功耗上限与精度下，按能效从高到低排序"""    results = []    for name, specs in CHIPS.items():        tflops, power = specs[precision]        if power > constraint_watt:            continue                                # 超出功耗墙直接淘汰        eff = compute_efficiency(tflops, power)        annual_cost = power / 1000 * HOURS_PER_YEAR * PRICE_PER_KWH        results.append((eff, name, power, annual_cost))    results.sort(reverse=True)                      # 能效高者排前    return results  def main():    print("=== 芯片能效评估（FP16 精度）===")    candidates = rank_chips(constraint_watt=400, precision="FP16")    if not candidates:        print("没有芯片满足功耗约束")        return    for eff, name, power, cost in candidates:        print(f"{name:>12} | 功耗 {power:3d}W | 能效 "              f"{eff:6.2f} TFLOPS/W | 年电费约 {cost:8.0f} 元")    best = candidates[0]    print("最优选型:", best[1], f"{best[0]:.2f} TFLOPS/W")  if __name__ == "__main__":    main()

1. compute_efficiency(tflops, power_watt)定义能效计算公式：算力除以功耗，对应正文中 FLOPS/Watt 的定义。
2. rank_chips(constraint_watt=400, precision="FP16")先按功耗墙过滤芯片，再对能效排序，模拟实际选型中的约束筛选流程。
3. if power > constraint_watt: continue功耗超标的候选直接淘汰，就像油耗太高的车连入围资格都没有。
4. annual_cost = power / 1000 * HOURS_PER_YEAR * PRICE_PER_KWH把瓦折算成千瓦，乘年运行小时数与电价，算出这台芯片一年的“油费”。
5. results.sort(reverse=True)以能效为关键字降序排列，最终 best 即最优选型。

常见误区

面试题