短期记忆：AI的“工作台”，为何如此关键又如此短暂？
短期记忆是AI模型在处理当前任务时，临时记住和利用有限上下文信息的能力。它决定了AI在对话、编程等连续交互场景中的连贯性和实用性，是衡量模型智能水平的关键指标之一。
一句话解释
短期记忆指AI模型（如ChatGPT）在处理当前问题时，能够临时记住并利用对话历史或输入文本中有限的前后文信息的能力，类似于人的工作记忆。
为什么会被关注
随着AI对话机器人普及，用户发现模型经常“忘记”几分钟前的对话内容，这直接影响了使用体验。短期记忆的长度和精度，成为衡量一个大模型是否“聪明好用”的核心指标，也是各大厂商技术竞赛的焦点。
核心逻辑
其技术基础主要源于Transformer架构的“注意力机制”。模型在处理每个新词时，会计算它与上下文所有词的相关性权重，从而动态地“记住”关键信息。但这种“记忆”是临时的计算过程，而非永久存储，受预设的“上下文窗口”大小严格限制。
常见场景
在多轮对话中，你需要模型记住你的偏好和之前的指令；编写长代码时，它需要理解之前定义的函数结构；分析长文档或书籍时，它需综合前后信息进行总结。这些场景都极度依赖有效的短期记忆。
容易混淆的点
短期记忆不等于长期记忆或知识存储。模型从训练数据中学到的海量事实参数是其“长期记忆”或“知识”，而短期记忆仅针对当前会话的临时信息。
扩大上下文窗口（如支持128K tokens）并不直接等同于短期记忆能力变强。如果注意力机制效率不高，模型可能无法从超长的上下文中精准提取关键信息，出现“中间迷失”现象。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词Transformer是一种革命性的神经网络架构，它通过“自注意力”机制并行处理序列数据，彻底改变了自然语言处理领域，并成为GPT、BERT等大模型以及扩散模型的核心基础。
上下文窗口是大型语言模型（LLM）在单次处理时能够“看到”和参考的文本信息总量。它就像模型的“工作记忆区”，决定了AI能记住多长的对话历史、理解多复杂的文档，是影响模型实际应用效果的核心参数。
检索增强生成是一种将信息检索与大语言模型生成能力相结合的技术框架。它让模型在回答前，先从外部知识库中检索相关信息作为参考，从而生成事实性更强、时效性更高且可追溯来源的内容，有效缓解大模型的“幻觉”问题。
大语言模型是一种基于海量文本数据训练的人工智能模型，能够理解、生成和推理人类语言。它通过深度学习技术，学习语言的统计规律和语义关联，从而完成对话、写作、翻译等多种任务，是当前生成式AI浪潮的核心驱动力。
思维链是一种提示工程技术，通过要求大语言模型在给出最终答案前，先展示其逐步推理的中间过程，从而显著提升其在数学、逻辑、常识推理等复杂任务上的表现。它模仿了人类解决问题时的思考方式，是理解模型“黑箱”运作的重要窗口。