语言模型（language model）
别名：language model、LM、语言模型
给「接下来出现什么」打分的模型；大语言模型就是用海量文本训练、参数量极大的那一种。
例子输入「床前明月」，语言模型给「光」打高分——它学到的是文字组合的统计规律，不需要真正「理解」诗句也能给出合理的接续。
它是什么
它是什么：一个根据已有文字算出「下一个 token 概率分布」的模型，本质是一个打分器。这个想法几十年来一直存在（早期的 n-gram 模型就是查表打分），大语言模型的突破在于用神经网络和海量数据把打分质量提到可用水平。哪里会遇到：ChatGPT、Claude 等产品里和你对话的就是它；「GPT」这个名字里的 P（Pre-trained）指它的训练方式。
关联概念
- 概率分布（probability distribution） [前置]
→ 语言模型每一步的输出，就是「下一个 token」的概率分布——它本质上是一个打分器。
- 模型参数（model parameters） [前置]
← 模型 = 结构 + 参数：几十亿个参数决定了它算出的分布长什么样。
- 预训练（pretraining） [前置]
← 预训练结束后，参数里留下了语言的统计规律——语言模型由此成型。