上下文窗口
Context Window
上下文窗口(Context Window)是指大语言模型在一次交互中能够记住和处理的最大文本长度,通常以 Token 数量来衡量。
详细解释
上下文窗口(Context Window) 就像是 AI 模型的“短期工作记忆”。当你和模型对话时,它并没有真正的“记忆力”,它之所以能连贯回答,是因为每次你提问时,程序都会把你之前说过的所有话(即上下文)连同新问题一起发给模型。
如果这段历史对话的长度超过了模型的上下文窗口限制,最前面的内容就会被截断丢弃,模型就会“失忆”。
长上下文时代的到来
早期的模型上下文通常只有 4K 或 8K token(约几千字)。到了 2026 年,主流旗舰模型(如 GLM-5.2、Kimi-K3、DeepSeek-V4-Pro)的上下文窗口已经达到了 1M(100万)到 2M Token,足以一次性塞入好几本《红楼梦》或整个大型项目的代码库。
长上下文让以下场景成为可能:
- 无切片长文档分析:无需复杂的 RAG 架构,直接把上百页的 PDF 丢给模型总结。
- 整库代码阅读:让模型理解数万行代码之间的依赖关系。
常见问题
上下文越长越好吗?
不一定。上下文越长,API 调用的成本越高(因为你要为输入的所有 token 付费),且模型的推理速度会变慢。此外,部分模型在处理超长文本时可能存在“大海捞针(Needle in a Haystack)”难题,即遗忘中间部分的信息。