采样温度

一句话解释

采样温度是一个数值参数（通常用T表示），它像调温旋钮一样，通过“加热”或“冷却”模型输出的概率分布，来控制AI生成文本时是更倾向于选择最高概率的“安全”词汇，还是给其他可能性一些机会，从而影响文本的创造性、多样性和可预测性。

为什么会被关注

随着ChatGPT等对话AI的普及，用户发现同样的提示词有时会得到截然不同的回答。这背后往往是温度参数在起作用。它直接关系到AI产品的用户体验：是机械重复还是富有新意，是稳定可靠还是天马行空。开发者、创作者和普通用户都希望通过调整这个“旋钮”，让AI在特定场景下发挥最佳效果，因此它成为了理解和操控AI生成行为最直观的参数之一。

核心逻辑

模型在生成下一个词时，会计算一个包含所有可能词汇的概率分布。温度T的作用是对这个原始概率分布进行“重塑”。具体公式通常涉及对每个词的原始分数（logits）除以T，再进行Softmax运算。当T值高（>1，如1.2），概率分布被“平滑”，低概率词获得相对更高的机会，输出更随机、多样。当T值低（

常见场景

创意写作与头脑风暴（T较高，如0.8-1.2）：需要AI产生多样化的想法、故事开头或诗歌，较高的温度能激发更多意想不到的联结。

事实问答与代码生成（T较低，如0.1-0.5）：追求准确性和一致性，较低的温度让模型紧扣最可能正确的信息或语法规范的代码。

开放域对话（T中等，如0.7-0.9）：在连贯性和趣味性之间取得平衡，使对话既自然又不至于枯燥或失控。

模型评估与调试（T=0或极低）：为了确保测试结果的可复现性，固定随机种子并设置低温，以排除随机性干扰，评估模型的核心能力。

容易混淆的点

温度与“随机种子”：温度控制单次生成内部的随机性程度；随机种子则控制生成过程的整体随机起点。改变种子，同一温度下也会得到不同输出；固定种子，改变温度，输出也会变。

高温不等于“质量更好”：高温带来多样性的同时，也显著增加生成无意义、矛盾或事实错误内容（即“胡言乱语”）的风险。它拓展了可能性空间，但不保证提升平均质量。

温度不是唯一控制参数：它常与“Top-p”（核采样）、“Top-k”等参数结合使用。例如，先用Top-p过滤掉低概率长尾词，再对剩余词应用温度调整，能更精细地控制生成质量与多样性之间的平衡。