Context Window：大模型的“记忆长度”与“视野范围”
Context Window（上下文窗口）指大语言模型在生成回复时，能够参考和处理的输入文本（包括用户提问和历史对话）的最大长度限制。它定义了模型单次推理的“工作记忆”边界，直接影响对话连贯性、长文档处理和多步骤任务执行能力。
一句话解释
Context Window（上下文窗口）就像是大语言模型的“短期工作记忆区”或“一次性阅读视野”，它规定了模型在生成下一个词时，能够回头查看和考虑的前文最大文本量。这个窗口之外的信息，模型在本次生成中无法“看到”或利用。
为什么会被关注
随着大模型应用深入，处理长对话、长文档、复杂代码库和多步骤任务成为刚需。传统的4K或8K令牌窗口已捉襟见肘，扩展上下文窗口成为提升模型实用性的关键竞赛点。更大的窗口意味着能处理更长的输入（如整本书、长会议记录），维持更长的对话历史，减少关键信息丢失，但也带来了计算复杂度飙升和成本控制的巨大挑战。
核心逻辑
其核心基于Transformer架构的自注意力机制。模型在处理序列时，需要计算当前关注位置与序列中所有其他位置的关系。理论上，注意力可以覆盖整个序列，但计算量和内存消耗会随序列长度平方级增长。因此，所有模型在实践中都会设定一个最大长度上限，即上下文窗口。突破这一限制的技术（如滑动窗口、层次化注意力、外推等）是当前研究热点。
常见场景
长文档问答与分析：上传一篇数十页的研究报告或法律合同，要求AI总结、问答或提取信息。窗口大小决定了能否一次性输入全文。
长程对话：与AI进行数十轮甚至上百轮的连续对话，讨论一个复杂项目。窗口大小决定了AI能记住多远的对话历史，避免“遗忘”开头讨论的目标。
代码生成与理解：要求AI理解或生成一个包含多个文件的完整项目代码。大窗口允许一次性提供更多相关代码作为上下文，提升生成准确性和一致性。
多步骤任务规划与执行：给AI一个复杂指令，如“根据我提供的产品需求文档、用户反馈数据和市场报告，制定一份季度营销计划”。大窗口能容纳所有必要参考材料。
容易混淆的点
与“知识库”或“长期记忆”混淆：上下文窗口是“工作记忆”，仅在单次推理过程中有效；任务结束后，这些信息通常不会被模型持久保存。而知识库是模型通过训练获取的永久性参数化知识，或通过外部检索系统访问的长期存储。
“支持”长度与实际“有效”长度：厂商宣传的“支持128K上下文”可能指技术上限，但模型在窗口边缘位置的理解、记忆和推理能力可能会显著下降，即存在“中间表现好，两头表现差”的现象。有效利用长度往往小于宣称长度。
输入窗口与总上下文窗口：有些模型的总上下文窗口是输入和输出共享的。例如，总窗口128K，若用户输入占用了120K，则模型输出最多只有8K空间。这需要在使用时进行分配管理。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词法院AI应用是指人工智能技术在司法领域的落地实践，包括智能辅助办案、类案自动推送、裁判文书生成、庭审语音识别等，旨在提升审判效率与公平性，减轻法官事务性负担。
法院AI部署是指将语音识别、文书生成、类案推送等人工智能技术集成到法院办案流程中，旨在提升审判效率、降低人为差错，并推动司法透明化。近年来，各地智慧法院试点加速，AI从辅助工具逐渐嵌入核心业务环节。
法院AI训练指利用裁判文书、法律法规等数据，训练机器学习模型以辅助司法工作，如案件分类、证据分析、量刑建议等。它并非替代法官，而是通过技术手段提升效率与一致性，正成为智慧法院建设的核心环节。
法院AI仿真利用人工智能技术对法庭场景、审判程序、辩论逻辑进行数字化模拟，用于法律教学、案件预演、证据推演等场景，帮助法官、律师和法学院学生更直观地理解司法过程。
法院AI建模是指运用人工智能技术，尤其是大语言模型和机器学习算法，对案件的事实要素、法律条文和历史判例进行结构化建模，辅助法官完成证据审查、量刑参考和文书生成的技术方案。