词元（token）
别名：token、标记、词块
模型处理文字的最小单位：文本先被切成一段段小片段，模型从头到尾只见过这些片段。
例子「人工智能」可能被切成「人工」和「智能」两块；英文单词 unhappiness 可能被切成 un、happi、ness 三块。计费与长度限制（比如「8K 上下文」）数的就是这些块。
它是什么
模型并不逐字逐句地读我们写的句子。分词器先把文本切成大量小片段——每个片段就是一个 token，可能是一个汉字、一个词、半个英文单词或一个标点。每个 token 在词表里有一个编号，模型真正「阅读」的是这些编号序列。它是什么：文字进入模型的最小单位，也是模型输出文字的最小单位。哪里会遇到：几乎所有产品界面里的「长度限制」「费用」都按 token 计；报错提示「超出上下文长度」指的也是它。
关联概念
- 概率分布（probability distribution） [前置]
→ 概率分布给「下一个词元」的每个候选打分——先有词元的概念，才谈得上候选。
- 分词器（tokenizer） [前置]
← 分词器把文本切成 token——切法由它定义，模型只认它切出来的单位。
- 词表（vocabulary） [前置]
← 每个 token 都是词表里的一个条目，对应唯一编号；词表是模型认识的全部文字积木。