上下文窗口(context window)

别名:上下文、context、上下文长度

模型一次能「看到」的 token 数量上限——超出窗口的内容,对模型来说等于不存在。

例子一个 8K token 的窗口大约装得下一两万字。你粘贴一篇长文让模型总结,若全文超出窗口,最开头的内容模型根本没读到,总结自然不准。

它是什么

模型预测下一个 token 时,依据是「目前出现的所有 token」。这些 token 能覆盖多长,就是上下文窗口的大小。它是什么:模型的「工作桌面」——桌面上摊开的文字才是模型能参考的全部。哪里会遇到:产品参数表里的 8K / 32K / 128K 上下文;对话很长时模型「忘了」前面说过的内容,多数是窗口装不下,而不是它「记性差」。

关联概念

接下来可以看

来源

收录领域:工程与技术 · 内容复核 2026-11-13