温度(temperature)
别名:temperature、采样温度
控制输出随机性的参数:低温让模型更偏向最高概率的 token,高温把候选之间的差距拉平、输出更多样。
例子同一个问题「写一句关于春天的诗」:低温(0.2)两次回答几乎一样、措辞稳妥;高温(1.2)两次差别明显、可能出现更意外但偶尔跑偏的表达。
它是什么
概率分布给出每个候选的可能性,温度决定我们怎么用这份分布。低温相当于「几乎总选第一名」,输出稳定但可能呆板;高温把分数重新分配、拉近候选差距,小概率 token 也有更多机会被选中。它是什么:一个通常在 0 到 2 之间的数值参数。哪里会遇到:API 或产品设置里的 temperature 滑块;「同一个提示词每次回答不一样」的直接原因就是采样存在随机性。
关联概念
- 概率分布(probability distribution) [应用]
→ 温度改变候选之间的相对差距:低温拉大、高温拉近。
- 随机采样(random sampling) [应用]
→ 温度是采样前对分布的最后调整:低温让抽签几乎总是落在第一名上。