推理（inference）
别名：推理、inference、前向推理
训练结束后使用模型的过程：参数固定不动，模型只是反复「算出下一个 token 的分布」。
例子你和 ChatGPT 聊天的每一秒都在推理：模型用预训练定好的参数，对你的输入算分布、采样、生成——它不会因为这次对话而变得更聪明。
它是什么
它是什么：模型投入使用后的一切计算。推理时只做「预测」，不做「学习」——对话里的「记住你刚才说的」只是把内容放进了上下文窗口，参数并没有变。哪里会遇到：AI 公司的成本表里「推理成本」指每次回答的计算开销；「本地跑模型」说的就是在自己设备上做推理。
关联概念
- 文本生成（text generation） [交叉关联]
— 聊天时发生的事就是推理：用训练定好的参数，逐 token 生成回答。