凌晨四点,集训基地的跑道上,选手小芯正在为一场重要的马拉松做最后演练。他状态火热,第一公里就跑出了惊人的配速。可就在他准备继续加速时,身体开始抗议:体温飙升、呼吸急促、双腿像灌了铅。随队教练看了一眼体温计,果断按住他的肩膀:“降速!再跑下去身体要出问题了。” AI 芯片就是赛场上的小芯。当你启动一轮大模型训练,它会以每秒千万亿次的速度疯狂计算——这种“高速奔跑”产生的热量,足以让硅片内部温度在几分钟内冲上 90°C。芯片里也有一个“教练”——电源管理单元——它一旦检测到温度越过警戒线,就会强制降低频率和电压,让算力从 100% 掉到 60% 甚至更低。这个过程,叫热节流(thermal throttling)。 想让芯片全程不掉速,就得给它配一身靠谱的“降温装备”:风冷像自己扇风的简易运动服,液冷像专业团队的冰背心。散热方案选得好不好,直接决定了芯片是“满血跑完全程”,还是“半路被摁头降速”。这篇文章,就沿着一名“芯片运动员”的马拉松之旅,拆解功耗、温度、算力之间层层纠缠的关系。
读完本文,你将能看懂散热评测报告里的温度曲线与持续算力数据,在数据中心选型时用量化依据规避热节流导致的性能损失——这是所有大模型基础设施岗位的必备判断力。
可视化演示
展示系统处理流水线、实时性能指标曲线及多方案对比分析,包含数据流转、吞吐延迟监控与方案评估。
本节配有交互动效(进入视口后自动加载,约 3KB)。
系统可视化 处理流程:输入→处理→模型→输出 性能监控:实时指标 P=L×T
散热基本原理
马拉松运动员小芯跑起来,肌肉做功会产生大量热量,体温随之上升。要想保持配速,他必须想办法把身体里的热带走——出汗、大口喘气、跑动中带起的风,每一步都是“散热”。
AI 芯片和运动员一样。芯片每做一次计算,本质上是大量电子在晶体管间流动,这会因电阻产生热量。芯片算得越快、算力越猛,它的“肌肉做功”就越强,发热也就越厉害。今天一颗旗舰 AI 加速芯片的功耗可以轻松突破 400W 甚至 700W,比一盏家用灯泡高出几十倍。功耗是“产热源头”,散热则是“排热手段”。
芯片内部产生的热量,需要沿着固定的路径排出去:先从芯片核心(die)传到金属封装外壳,再经过导热硅脂、散热器,最终交给空气或冷却液。这条路径上每一段都会阻碍热量流动,专业上叫“热阻”(θ)。热阻越大,同等功耗下芯片温度就越高。把环境温度记为 T_A,热阻记为 θ_JA,功耗记为 P,芯片结温(芯片内部最热点的温度)的估算公式如下:
想让小芯的“核心体温”不超标,要么降低他的输出强度(功耗),要么脱掉厚厚的隔热服(降低热阻),要么把起跑线搬到凉快的地方(降低环境温度)。散热设计的所有秘密,都藏在这三个旋钮里。
- 结温 T_J芯片内部最热点(通常是晶体管密集区)的温度,相当于运动员的核心体温。
- 环境温度 T_A芯片所在机房或机箱内的空气温度,相当于起跑线的气温。
- 热阻 θ_JA从芯片结到周围环境的热量传导阻碍,相当于运动员身上隔热层的厚度。
- 功耗 P芯片满负荷工作的发热功率,相当于跑步时肌肉做功的强度。
- 温升合成结温等于环境温度加上“热阻与功耗的乘积”,热阻越大或功耗越高,温升越大。
热节流机制
小芯咬牙猛冲,体温一路飙到 39.8°C。大脑里的“体温调节中枢”拉响警报:再不降速,就要中暑、器官受损!于是肌肉开始发软,步伐被迫放慢。他并不是跑不动,而是身体在强制“降频”。
芯片里也有类似的“体温调节中枢”——电源管理单元(PMU)。它用温度传感器时刻监测芯片结温,一旦超过厂商设定的阈值(比如 85°C),就会触发热节流(thermal throttling):主动降低工作频率和核心电压,减少发热,保护芯片不被烧毁。
为什么要“降频又降压”?因为芯片的动态功耗大致与电压的平方成正比、与频率成正比。降一点点电压,发热功率就会大幅下降。热节流触发后,算力可能从 100% 掉到 60% 甚至 50%;只有温度回落到安全区间,芯片才逐渐恢复频率。这个“触发—恢复”机制,直接决定了芯片持续算力输出的上限。
热节流不是芯片“罢工”,而是那位冷静的教练在喊:“稳住节奏,保命要紧!”频繁的“强制降速”是持续性能的头号敌人——这也解释了为什么散热方案好坏,会直接决定算力是“满血跑完全程”还是“一路被摁着打”。
- 开关活动因子 α芯片晶体管不停翻转的比例,程序越复杂这个值越高,相当于运动员步伐的密集程度。
- 等效电容 C芯片内部寄生电容的总和,由工艺决定,相当于肌肉本身的重量。
- 电压 V核心供电电压,它是平方项,相当于跑步时穿的负重背心——重量翻倍,消耗翻四倍。
- 频率 f芯片每秒运算的时钟节拍数,相当于运动员的步频。
- 功率合成总功耗等于四个量的乘积,降压压降频能把发热迅速压下来。
风冷散热方案
没有专业降温团队的运动员,靠什么散热?出汗、大口喘气、跑动中带起的风。这些“土办法”简单可靠,但存在瓶颈——出汗量再大,也有极限。
风冷就是散热界的“土办法”。它由两部分组成:紧贴芯片的散热器(金属底座加热管加翅片),以及往翅片吹风的风扇。热量从芯片传到散热器,再被气流带走。翅片面积越大、风扇风量越足,散热能力就越强——相当于给运动员配了一件多孔透气运动服和一台强力鼓风机。
风冷系统的总热阻可以看成三段串联:芯片结到外壳的热阻 θ_JC、外壳到散热器的接触热阻 θ_CS、散热器到空气的热阻 θ_SA。其中 θ_SA 往往占大头,取决于翅片面积、风扇转速和风道是否顺畅。风冷优点是便宜、可靠、易维护;缺点是当单颗芯片功耗超过 400W、机柜功率密度很高时,空气的换热能力就“压不住场子”,噪声和积灰问题也随之而来。
风冷就像“透气运动服加风扇”。在功率不高的日常训练里绰绰有余,可一旦要跑高强度马拉松(满负载大模型训练),汗水湿透衣服,风再大也吹不干身体里积攒的热量——这时就该换更硬核的降温装备了。
- 结到壳热阻 θ_JC热量从芯片核心穿过封装材料传到外壳的阻力,是芯片出厂时就定好的属性。
- 壳到散热器热阻 θ_CS芯片外壳与散热器之间导热硅脂层的阻力,涂得好坏影响很大。
- 散热器到空气热阻 θ_SA翅片把热量交给空气的阻力,由散热器面积与风扇风量决定。
- 串联相加三段阻力首尾相连,总热阻等于三者之和,最弱的一段决定整体瓶颈。
液冷散热方案
高温天跑马拉松,专业选手会用上什么?冰背心、冷水海绵、甚至跳进降温池。水的吸热能力是空气的好几倍,能快速把运动员身体里的热带走。
液冷就是散热界的“冰背心”。它用冷却液(通常是水或特殊工质)当搬运热量的“快递员”:冷板贴住芯片,冷却液流过冷板吸走热量,再流到远处的换热器把热量交给外界,最后循环回来继续工作。
液冷方案主要分两类:冷板液冷(冷板贴在芯片上,冷却液在管路里循环)和浸没液冷(整个服务器泡在绝缘冷却液里)。冷却液单位时间能搬走的热量 Q,等于质量流量 m、比热容 c 和温差 ΔT 的乘积。水的比热容大约是空气的 4 倍,搬运同样多的热量,液冷只需要很小的流量,而且不受翅片面积限制,所以它能把芯片结温稳稳压在 60-70°C,几乎不触发热节流,持续算力输出自然更稳定。
如果说风冷是“运动员自己扇风”,那液冷就是一支专业后勤降温团队:冰背心及时换、冷水不间断送。虽然这身装备更贵,还有“管路漏液”的隐忧,但它能让选手全程保持最佳配速——这对需要连跑几十个小时的大模型训练来说,价值巨大。
- 热量 Q单位时间内冷却液带走的热量,相当于快递员搬运的热量包裹总量。
- 质量流量 m单位时间流过冷板的冷却液质量,相当于快递员的出车频率。
- 比热容 c单位质量冷却液升高 1°C 吸收的热量,水的比热容大,所以效率高。
- 温差 ΔT冷却液进出冷板的温度差,温差越大,搬运效率越高。
- 乘积关系三种因素相乘,液冷靠“大比热容 + 大流量 + 大温差”轻松赢过风冷。
稳态温度分析
马拉松跑到第 30 公里,小芯的体温不再继续上升,而是稳定在一个数值上——身体产热和散热达到了动态平衡。无论他多想再快一点,体温都会守住这个“平衡点”。
芯片也是这样。只要负载功耗保持不变,温度就不会无限上升,而是朝一个“稳态温度”逼近。这个稳态值由前面的公式决定:稳态温度 = 环境温度 + 热阻 × 功耗。功耗 700W 的芯片,热阻如果压不下来,稳态结温就可能顶在 90°C 以上,直接越过节流阈值。
温度从开机那一刻爬升到稳态,不是一步到位的,而是按指数曲线趋近。这个过程有多快,由热时间常数 τ 决定,τ = 热阻 × 热容。τ 越小,温度“冲”得越快;τ 越大,温度变化越慢。对评测来说,时间常数意味着:跑 1 分钟的基准测试和跑 30 分钟的基准测试,结果可能完全不同——前者测到的是“还没热起来的峰值”,后者才是真实稳态。
评测芯片就像评估马拉松选手:不能只看起跑 100 米的速度,要看 40 公里后体温稳在多少、配速掉没掉。稳态温度,就是芯片在“全程负载”下交出的真实答案。
- 环境温度 T_A散热起点,决定了温度曲线的“地板”。
- 稳态温升 θ_JA × P热阻乘以功耗得到最终温升,相当于比赛的“终点高度”。
- 时间常数 τ热阻与热容的乘积,反映温度变化的速度,相当于选手体温调节系统的反应快慢。
- 指数趋近项 1 − e^(−t/τ)t 越大越接近 1,温度越接近稳态,每过一个 τ 差距缩小 63%。
- 完整曲线温度从环境温度出发,按指数规律爬升并稳定在稳态值。
性能评测方法
判断一个马拉松选手强不强,裁判不会让他跑 100 米测速,而是让他跑完标准全程,记录平均配速。同理,评测 AI 芯片不能只看“冲刺时的峰值算力”,更要看长时间满负载下的“持续算力”。
峰值算力是芯片在凉爽状态、短时间测试下能爆发的最高性能;持续算力则是长时间满负载后,芯片在热节流反复威胁下仍能稳定输出的速度。散热越差,两者差距越大——极端情况下,持续算力可能只有峰值的 60%。
标准的评测流程分三步:先用短时基准测试(如 1 分钟内)记录峰值算力;再用长时满负载测试(如 30 分钟以上)记录持续算力;最后计算能效比,即每瓦功耗能输出多少算力(如 TFLOPS/W)。能效比把“性能”和“功耗”绑在一起看,是散热方案选型时最核心的量化指标:同等功耗下持续算力越高,说明散热方案越有效。
能效比就像“每瓶运动饮料能支撑的跑步里程”。散热方案越强,芯片在同样功耗下输出的算力越多,能效比自然越亮眼——这也是评测报告里最值得对比的那一行数字。
- 持续算力 S长时间满负载下芯片稳定输出的浮点运算次数(FLOPS),相当于运动员的全程平均配速。
- 功耗 W芯片实时消耗的电功率(瓦特),相当于运动员全程消耗的能量。
- 能效比 η每瓦电功率换来的算力,数值越高,同样电费产出越多计算结果。
- 比值结果持续算力除以功耗,评测时应以持续负载下的数据作为分子,避免高估真实能效。
选型决策依据
给运动员配降温装备,不能只看“越贵越好”。短跑选手不需要冰背心,全马选手才需要;预算有限的校园运动会,一台小风扇就够——选散热方案同样是个“按需匹配”的决策题。
数据中心选散热的本质,是在“成本、性能、密度”三个角之间找平衡。风冷便宜易维护,但支撑不起高功率密度的 AI 集群;液冷贵一些、维护更复杂,但能让持续算力逼近峰值。决策的第一步,就是把散热不足导致的性能损失量化。
量化的核心指标是性能损失率:用长时基准测试测出持续算力,再和短时峰值算力对比。如果风冷方案下损失率高达 35% 而液冷只有 5%,那么多出来的 30% 算力能不能覆盖液冷的额外成本,就是财务模型要回答的问题。此外还要考虑部署密度:同样一个机柜,风冷可能只能装 4 台满载服务器,液冷能装 8 台——密度的提升意味着房租和散热能耗得到分摊,这同样会写进决策报告。
最后拍板时,就像教练团队坐到一起看数据:这套“降温装备”能让选手全程不掉速多少?装备贵出的钱,换来的成绩提升值不值?想清楚这两笔账,风冷还是液冷,答案自然浮出水面。
- 峰值算力 P_peak短时测试测出的最高算力,相当于选手起跑冲刺的最高速度。
- 持续算力 P_sustained长时间满负载后的稳定算力,相当于全程平均配速。
- 损失差值峰值减持续,得到因发热被“吃掉”的算力。
- 损失率 L损失占峰值的百分比,散热越差这个数字越大。
AI 应用场景
大模型训练集群的散热体检
阶段:算力基础设施评测与选型
解决的问题:大模型训练通常连续运行数天甚至数周,传统做法只看芯片标称参数,上架后才发现满载半小时就开始热节流,训练吞吐量骤降 30% 以上。AI 方式是用长时满负载基准测试给每台节点做“散热体检”,把稳态温度、持续算力和性能损失率量化记录,再决定是否更换散热方案。
具体案例:某团队用 8 卡风冷服务器预训练大语言模型,满载 20 分钟后芯片结温冲到 88°C,触发热节流,训练吞吐从 100% 掉到 62%。换装冷板液冷后,结温稳定在 63°C,全流程不再触发节流,同一个模型训练时间缩短了近四成。
在线推理服务的延迟保障
阶段:模型部署与在线服务运维
解决的问题:在线推理服务在白天高峰期持续全负载运行,散热不足导致的周期性热节流会让推理延迟忽高忽低。传统靠“加机器扛”成本极高,AI 方式是通过监控温度曲线和节流事件,提前定位散热瓶颈,用散热改造保障 P99 延迟稳定。
具体案例:某推荐系统在线推理集群,高峰期 GPU 温度在 75-90°C 之间反复震荡,每次触发节流,P99 延迟就从 12ms 飙到 45ms,超出 SLA 承诺。运维团队加装液冷背板后,温度稳定在 65°C 以下,P99 延迟恢复平稳,服务等级协议达标率回到 99.9%。
数据中心散热方案选型评估
阶段:基础设施规划与采购
解决的问题:自建机房或云厂商扩容 AI 集群时,需要回答“风冷还是液冷”。传统靠经验拍板很容易选错,AI 方式是用持续算力测试数据和 TCO 模型对比两种方案:算清性能损失、部署密度、电费和维护成本,用数字支撑决策。
具体案例:某云厂商规划 500 机柜的 AI 训练集群,实测风冷下持续算力损失率 35%,液冷下仅 3%。液冷方案前期建设成本贵 15%,但算力产出提升约 20%、散热能耗下降,综合测算两年即可回本,最终全集群采用冷板液冷。
Python 演示
import math # 芯片热仿真模拟器: 模拟不同散热方案下的温度与频率变化class ThermalSimulator: def __init__(self, rth=0.18, cth=320, ambient=25, throttle=85): self.rth = rth self.cth = cth self.ambient = ambient self.throttle = throttle self.temp = ambient self.freq = 1.0 def step(self, load, dt=0.5): # 功耗随负载和频率变化, 基准功耗 600W power = load * 600 * self.freq steady = self.ambient + self.rth * power tau = self.rth * self.cth self.temp += (steady - self.temp) * (1 - math.exp(-dt / tau)) if self.temp >= self.throttle: self.freq = max(0.5, self.freq - 0.05) else: self.freq = min(1.0, self.freq + 0.02) return self.temp, self.freq def run_simulation(cooling, minutes=40): if cooling == "liquid": sim = ThermalSimulator(rth=0.08, cth=260) else: sim = ThermalSimulator() dt = 0.5 steps = int(minutes * 60 / dt) freq_sum = 0.0 freq_peak = 1.0 print("--- %s cooling ---" % cooling) for i in range(steps): temp, freq = sim.step(1.0, dt) freq_sum += freq if i % 240 == 0: print("t=%6.1fmin temp=%5.1fC freq=%5.1f%%" % (i * dt / 60, temp, freq * 100)) avg = freq_sum / steps loss = (freq_peak - avg) * 100 print("average freq: %.1f%%, compute loss: %.1f%%\n" % (avg * 100, loss)) if __name__ == "__main__": run_simulation("air") run_simulation("liquid")
import math引入数学库,指数函数用来模拟温度向稳态趋近的过程。self.temp += (steady - self.temp) * (1 - math.exp(-dt / tau))温度按指数曲线爬升,对应公式 T(t) = T_A + θ×P×(1−e^(−t/τ))。steady = self.ambient + self.rth * power一阶热模型算出稳态温度,对应“结温 = 环境温度 + 热阻 × 功耗”。if self.temp >= self.throttle:温度越过 85°C 警戒线,触发热节流逻辑。self.freq = max(0.5, self.freq - 0.05)降频保护:频率每步下调 5%,但不会低于 50%。ThermalSimulator(rth=0.08, cth=260)液冷把热阻从 0.18 压到 0.08,满载稳态温度只有 73°C,全程不节流。loss = (freq_peak - avg) * 100用峰值频率与平均频率之差计算性能损失率,正是选型报告里的灵魂指标。
常见误区
误区“芯片过热顶多降点频,跑得慢一点而已,不影响大局。”
正解热节流可使持续算力掉 30%-50%,训练时间拉长近一倍,还伴随散热风扇满转的额外能耗。就像以为选手只是“放慢脚步”,实际上他直接失去了争夺奖牌的资格。性能评测必须把热节流当作核心变量,而不是小瑕疵。
为何常见:很多人只看参数表上的峰值算力,忽略了长时间负载下芯片的真实表现。
误区“芯片标称 TDP 350W,那它满载功耗就是 350W。”
正解TDP(热设计功耗)是散热系统的设计参考值,并不等于实际功耗。很多加速器在 boosting 时会瞬时冲到 TDP 的 1.3-1.5 倍。如果散热按 TDP 上限设计,满载必然触发节流。TDP 更像是运动员的“配速表”,实际冲刺速度会明显超出。
为何常见:厂商参数表只写 TDP 一个数字,初学者容易把它当成实际功耗上限。
误区“既然液冷散热强,那就直接全上液冷。”
正解液冷成本高、维护复杂、有漏液风险,在低功耗、低密度的场景下收益有限。短跑运动员不需要全程穿冰背心,一台小风扇就够。选型要看功耗密度和持续负载需求,风冷够用的时候,液冷的投入产出比并不划算。
为何常见:被宣传中液冷的高性能吸引,忽视了场景匹配和成本约束。
误区“评测报告里峰值算力高,就是好芯片。”
正解峰值算力是凉爽、短时状态下的爆发力,而实际训练和推理是长时间负载。持续算力和能效比才是真实产能。百米冲刺冠军不一定能跑完马拉松,同样的道理,峰值漂亮的芯片可能在半小时后就被热节流拖垮。
为何常见:厂商宣传都用峰值数据,这是最具误导性的一个误区。
误区“散热越猛,芯片温度越低,性能越好。”
正解温度只要不触发节流就足够了,继续降温收益递减;液冷温度过低还可能引发冷凝,水滴落在电路板上反而造成短路。运动员不是越冷越好,失温同样致命。工程上追求的是“稳定在安全区间”,而不是无限追求低温。
为何常见:把“不能过热”理解成“越冷越好”,缺乏基本的工程思维。
面试题
Q1. 芯片触发热节流后,最直接的表现是什么?
- A.工作频率大幅降低← 正确答案
- B.核心电压突然升高
- C.缓存容量自动翻倍
- D.芯片工艺自动升级
答案:A。热节流的核心动作是电源管理单元主动降频降压来减少发热,所以最直接表现是工作频率大幅降低。电压是降低而非升高,缓存和工艺不会因温度变化而改变。
Q2. 下列哪一项是芯片发热的根本来源?
- A.操作系统运行开销
- B.晶体管开关功耗← 正确答案
- C.硬盘读写噪声
- D.网络传输延迟
答案:B。芯片发热的根本来源是晶体管高速开关时产生的动态功耗,这就像运动员肌肉做功产生热量。操作系统开销、硬盘和网络都只是外围因素,不是芯片自身发热的主因。
Q3. 某芯片功耗 400W、热阻 0.15°C/W、环境温度 25°C,其稳态结温约为?
- A.55°C
- B.70°C
- C.85°C← 正确答案
- D.100°C
答案:C。根据结温公式 T_J = T_A + θ_JA × P,代入得 25 + 0.15 × 400 = 85°C。就像环境温度 25°C 的跑道,加上 60°C 的温升,运动员的核心体温就是 85°C。
Q4. 液冷散热相比风冷,最核心的优势是?
- A.完全消除芯片功耗
- B.搬运热量能力更强← 正确答案
- C.无需任何电力消耗
- D.不占用机房空间
答案:B。水的比热容约为空气的 4 倍,同样体积能带走更多热量,所以液冷的核心优势是搬运热量能力更强。它并不能消除功耗,也需要水泵耗电,且冷板和管路同样占用空间。
Q5. 热时间常数 τ 数值越大的芯片,其温度变化特点是?
- A.温度上升得越快
- B.温度变化得越慢← 正确答案
- C.温度恒定在零度
- D.温度与环境无关
答案:B。热时间常数 τ = 热阻 × 热容,它衡量温度变化的快慢。τ 越大,温度爬升或下降越慢,就像体重大的选手体温调节反应更迟钝。τ 与温度绝对值无关,更不会让温度与环境脱钩。
Q6. 评测持续算力时,正确的做法是?
- A.开机后立即测一分钟
- B.满载跑三十分钟再测← 正确答案
- C.断开电源再测试
- D.只记录最高瞬时值
答案:B。持续算力必须在满负载下跑足够长时间,让温度达到稳态后再测量,才能反映热节流影响下的真实产能。开机即测相当于看选手起跑 100 米的速度,测不出马拉松的真实配速。
Q7. 某液冷方案让持续算力从峰值 90% 提升到 99%,性能损失率下降约?
- A.从 10% 降到 1%← 正确答案
- B.从 5% 降到 0%
- C.从 20% 降到 5%
- D.从 30% 降到 15%
答案:A。性能损失率 = (峰值 − 持续) ÷ 峰值 × 100%。90% 持续意味着损失 10%,99% 持续意味着损失 1%。液冷把散热压稳后,几乎不再触发热节流,算力损失接近归零。
Q8. 下列哪些措施可以降低芯片稳态结温?(多选)
- A.降低环境温度← 正确答案
- B.减小散热路径热阻← 正确答案
- C.降低芯片满载功耗← 正确答案
- D.提高系统频率上限
答案:ABC。结温公式 T_J = T_A + θ_JA × P 给出了三个旋钮:降环境温度、降热阻、降功耗。提高频率上限反而会增加功耗和发热,让结温升得更高,属于反向操作。
Q9. 关于热节流机制的描述,正确的有?(多选)
- A.由电源管理单元自动触发← 正确答案
- B.通过降压降频减少发热← 正确答案
- C.温度回落后自动恢复← 正确答案
- D.触发后完全停止运算
答案:ABC。热节流由电源管理单元感知温度后自动触发,通过降频降压降低动态功耗,温度回落后逐步恢复频率。它只是“降速保护”,不是“停机罢工”,芯片仍会以较低算力继续工作。
Q10. 数据中心选择液冷方案的合理理由包括?(多选)
- A.支持更高机柜部署密度← 正确答案
- B.让持续算力更贴近峰值← 正确答案
- C.初始建设成本一定更低
- D.提升整机能效比指标← 正确答案
答案:ABD。液冷换热效率高,同等机柜能塞进更多满载服务器,持续算力接近峰值,散热能耗下降后整机能效比也更好。但液冷的初始建设成本通常更高,“一定更低”是错误的绝对化表述。