Temperature温度参数控制生成随机性

可视化演示

通过Softmax缩放公式、概率分布变化和Top-K/Top-P协同采样三个维度，展示温度参数如何控制大模型生成随机性与多样性。

温度本质：火候旋钮

想象你雇了一位“语言大厨”AI。他每次开口前，心里都会给可能用到的候选词汇打一个“心动分”——有的词让他眼前一亮，有的词平平无奇。厨房台面上有个旋钮叫 Temperature，它不改变菜单、不换食材、不更新大厨的记忆，只改变大厨从候选词里“下注”的方式。旋钮往左拧，大厨变得保守，只肯用最有把握的词；往右拧，大厨变得奔放，冷门词也跃跃欲试。这就是温度的本质：一个调节输出随机性的旋钮。

在各大模型 API 中，这个旋钮通常写作 temperature 参数，常见取值范围是 0 到 2。它的直接效果是控制生成文本的多样性：温度越低，每次回答越发一致；温度越高，每次回答越发不同。用技术语言说，温度影响的是语言模型输出概率分布的“形状”——低温让概率分布变得尖锐，高温让概率分布变得平缓。

为什么形状重要？因为模型每次选词不是“内定冠军”，而是按概率“抽签”。概率分布如果是尖峰状，最高分词汇几乎必然被选中；如果是平缓状，即使分数垫底的词汇也有翻身机会。所以温度本质上是模型“抽样运气”的调节器，与模型本身的推理能力无关。下次看到有人把温度调高后惊叹“AI 变聪明了”，你可以微微一笑：他只是把火候调大，菜并没有变高级。

工作原理：旋钮内部

旋钮拧动时，厨房里发生了一系列连锁反应。要理解它，得先认识“心动分”的学名：logits。语言大厨每生成一个词，都会给词汇表里所有候选词打一个原始分数，这个分数可正可负，数值越大的词越像“钦定台词”。但这些分数还不能直接用——它们不是概率，加起来不等于 1，甚至可能出现负数。于是需要“温度缩放 + softmax 归一化”两步操作。

温度 T 出现在 softmax 的分母上，完整公式如下：

举个例子：假设两个词的心动分是 3 和 2。温度 0.5 时，分差被放大成 6 和 4，第一名概率约 88%，几乎稳赢；温度 2 时，分差被压缩成 1.5 和 1，第一名概率约 62%，第二名也有不小机会。这就是低温“稳”、高温“活”的根本原因。

参数范围：火候档位表

燃气灶有火候档位，温度旋钮也有自己的档位表。不同平台取值范围略有差异，但业界大致形成了一套共识：0 到 0.3 属于“小火慢炖”，0.4 到 0.9 属于“中火煎炒”，1.0 到 1.5 属于“大火爆炒”，1.5 以上属于“野火燎原”（娱乐可以，生产慎用）。

小火档（0.1-0.3）适合那些“答错一个字就麻烦”的任务：银行客服解释利率、法律条款摘要、代码生成、数学解题。这些场景要求口径一致、错误率低，宁可平淡，不可翻车。中火档（0.7-0.9）是大多数平台的默认值，适合通用对话、知识问答、技术文档写作——既有稳定性，又保留一点灵活性。大火档（1.2 以上）适合创意写作、广告文案、头脑风暴：你要的就是意外之喜，重复反而没价值。

很多推理模型为了追求准确，会自动把温度固定为较低值甚至忽略用户设置。这不是 bug，而是设计：用户给模型调温度，本质上是授权它在“求稳”和“求新”之间选择一个平衡点。下次打开 API 文档时不妨留意默认值——多数平台默认 0.7 或 1.0，而你真正该做的，是根据菜谱选档位，而不是永远用出厂设置。

效果对比：同一口锅

为了直观感受温度差异，我们请语言大厨做同一道菜：用一句话介绍番茄炒蛋。低温 0.2 时，大厨每次都端出同一盘：“番茄炒蛋是一道简单营养的家常菜。”中温 0.7 时，主体不变，但细节偶有变化：“番茄炒蛋是一道色泽鲜艳、酸甜开胃的家常菜，制作简单。”高温 1.3 时，画风突变：“一口咬下，番茄的酸甜在舌尖爆开，金黄的蛋花像阳光一样灿烂！”

对比之下规律很清晰：事实问答类任务（“北京在哪个时区”）适合低温，因为答案唯一且必须准确；创意写作类任务（“给新咖啡写十条 slogan”）适合高温，因为你需要模型跳出惯性；代码生成类任务适合中低温，因为代码既要符合语法又要逻辑稳定，过度随机会产生幻觉 API；头脑风暴类任务则可以放心上高温，先广撒网再人工筛选。

中文互联网上流传过一句话：“低温度是应试教育，高温度是素质教育。”虽然俏皮，但容易误导——素质教育不是“乱答”。更准确的比喻是：同一口锅，做盐焗鸡要小火慢焗，做回锅肉要大火爆炒。把炒菜的锅带去焗鸡，不是锅的错，是火候没选对。

调参策略：按菜单定火候

面对一份真实业务需求，调参的套路可以总结为四步，像厨师拿到生客的菜单：先看菜，再定火，尝一口，微调起锅。

第一步，判断任务类型。这决定初始档位：事实问答、代码、数学、合规审查，从 0.1-0.3 起步；通用对话、总结摘要，从 0.5-0.8 起步；文案、故事、点子生成，从 0.9-1.3 起步。第二步，平衡用户需求。如果产品定位是“可靠助手”，温度宁低勿高；如果定位是“灵感伙伴”，温度宁高勿低。用户反复抱怨“答案太死板”，就往高调一档；用户投诉“胡言乱语”，就往低调两档。

第三步，结合 top_p 一起调。top_p 是另一种控制随机性的手段：它按概率从高到低累积，只保留累积概率达到阈值的那批词。粗暴地理解，温度改变“概率分布的胖瘦”，top_p 直接“裁剪候选词集合”。两者经常配合使用：例如 temperature=0.8 配合 top_p=0.9，既能保证主体稳定，又能刹住长尾冷门词。第四步，用小步迭代验证。不要一次调 0.9 到 0.2，建议每次调 0.1-0.2，配合同一组测试用例跑多轮，观察输出的差异率和错误率。调参不是一锤子买卖，而是一道道试菜。

应用场景：厨房里的分工

一家繁忙的餐厅里，不同岗位的厨师使用不同的火候。前台客服岗要的就是“标准化出餐”，话术必须一致，所以温度锁定在 0.1-0.3。营销创意岗天天研发新菜，温度常年 1.0 以上，同一份产品简述能变出十种风格。编程开发岗像做精密雕刻，温度 0.2-0.4，保证代码风格统一、接口调用稳定。教育辅导岗则像学校食堂，中温 0.5-0.8，既要解答准确，又希望每次举的例子略有差异，让学生觉得老师有活力。

这些岗位背后，是同一套技术底座、同一个模型，仅仅因为温度参数不同，就长出了完全不同的“性格”。这恰恰说明了温度参数的应用价值：它不需要重新训练模型，不需要改代码逻辑，只是配置里的一个数字，就能让 AI 从“严谨的数据库”切换成“活泼的创意官”。对 AI 应用开发者来说，temperature 是性价比最高的“产品性格开关”。

注意事项：别把旋钮当魔法

火候旋钮再神奇，也不能把冻肉变新鲜——温度参数不是万能的。第一条要注意：温度不是“智商旋钮”。把温度调高不会让模型变得更聪明，它只是增大采样的随机性，有可能让模型“歪打正着”编出漂亮句子，也可能让错误答案看起来更流畅。第二条要注意：温度等于 0 不能保证正确。温度 0 只是让每次生成变得完全确定（贪心采样），但模型先天可能把 2+2 答成 5，确定的错误依然是错误。

第三条要注意：温度与 top_p 不是一回事。温度作用于整个概率分布，是“全局整形”；top_p 按概率排序后截断候选集，是“局部裁剪”。二者可以组合使用，但不要以为“调高温度=自动启用 top_p”。第四条要注意：温度受模型能力边界限制。弱模型即使温度调到 2.0，也写不出有逻辑的长文；强模型即使温度 0.1，遇到它不会的知识也会一本正经地胡说。火候再好，食材不新鲜，出锅依然是坏菜。

AI 应用场景

Python 演示

import mathimport random  def softmax_with_temperature(logits, temperature=1.0):    max_logit = max(logits)    scaled = [(x - max_logit) / temperature for x in logits]    exp_values = [math.exp(x) for x in scaled]    total = sum(exp_values)    return [e / total for e in exp_values]  def sample_one(probs):    r = random.random()    cumulative = 0.0    for i, p in enumerate(probs):        cumulative += p        if r <= cumulative:            return i    return len(probs) - 1  def main():    logits = [5.0, 3.0, 1.0, 0.5, -1.0]    for temp in [0.2, 1.0, 2.0]:        probs = softmax_with_temperature(logits, temp)        print(f"temperature={temp}: {[round(p, 3) for p in probs]}")     random.seed(42)    for temp in [0.2, 1.0, 2.0]:        counts = [0] * len(logits)        for _ in range(1000):            probs = softmax_with_temperature(logits, temp)            idx = sample_one(probs)            counts[idx] += 1        print(f"temperature={temp}, 1000 samples: {counts}")  if __name__ == "__main__":    main()

1. scaled = [(x - max_logit) / temperature for x in logits]先把 logits 平移减去最大值防止指数溢出，再除以温度完成缩放。
2. exp_values = [math.exp(x) for x in scaled]指数化，让所有分数变成正权重。
3. total = sum(exp_values)计算归一化分母，即所有词的权重总和。
4. return [e / total for e in exp_values]各项除以总和，得到和为 1 的概率分布。
5. r = random.random()生成 0 到 1 之间的随机数，模仿模型“抽签”的运气。
6. if r <= cumulative按概率累积判断，权重越大的词被命中的区间越宽。
7. random.seed(42)固定随机种子，让不同温度的对比结果可复现。

常见误区

面试题