文本生成（text generation）
别名：生成、解码、逐 token 生成
模型一次只预测一个 token，把它接到文本末尾再预测下一个——你读到的一段回答，就是这样一步一步长出来的。
例子回答「今天天气很好」时，模型其实先预测「今」，再基于「今」预测「天」，再「天气」……每个字背后都是一次完整的候选打分与挑选，直到预测出「结束」信号为止。
它是什么
模型并不「想好整段话再说出来」。每一步它只做一件事：根据已有内容算出下一个 token 的概率分布，从分布中取出一个 token 接上去，然后重复。这个循环就是生成。它是什么：逐 token 的循环过程，是所有大模型回答的形成方式。哪里会遇到：聊天应用里回答一个字一个字往外蹦（流式输出），正是生成过程被直接展示出来。
关联概念
- 概率分布（probability distribution） [前置]
← 生成就是把「按分布取出一个词元、接上去、再预测」循环起来。
- 贪心解码（greedy decoding） [应用]
← 贪心解码是生成的一种做法：每步永远取概率第一名的 token。
- 随机采样（random sampling） [应用]
← 随机采样是另一种做法：按概率抽签——高分候选更常被抽中，但小概率候选也有机会。
- 推理（inference） [交叉关联]
— 聊天时发生的事就是推理：用训练定好的参数，逐 token 生成回答。