一文读懂现代AI五大核心概念：LLM、Token、Context、Prompt、Tool

尽管近期更新频率不高，但在这段时间里，我对人工智能相关的底层逻辑进行了系统梳理。今天打算采用一条清晰的主线，将现代AI产品背后的演进逻辑串联起来：LLM → Token → Context → Prompt → Tool。

简而言之，就是大模型具备“生成文字”的基础能力，再通过上下文理解具体任务，接着利用提示词引导输出方向，最后借助工具连接现实世界。

1. LLM：大语言模型的本质，其实是“预测下一个Token”

LLM并非什么神秘的“大脑”，它本质上是一个超大规模的语言建模系统。其核心工作方式非常直接：根据已有输入，预测最有可能出现的下一个Token，然后不断重复这一过程，直到生成完整的回答。

当前主流的大模型，绝大多数都基于Transformer架构。而Transformer的起源，可以追溯到2017年Google那篇著名的论文 Attention Is All You Need。

关键点在于：LLM的能力并非“查数据库式回答”，而是基于训练过程中形成的统计与语义模式进行生成。因此它擅长语言、代码、总结和推理式表达，但也正因为这种生成机制，它有可能编造事实。这时就需要借助工具或检索来验证信息的真实性。

2. Token：模型真正看到的东西，不是字，而是Token

Token是模型处理文本的基本单位。模型本身无法直接理解“文字”，它是通过Tokenizer（分词器）将文字切分成Token，再映射成数字才能进行处理。

需要注意，Token与“字”或“词”并非一一对应。一个词可能就是一个Token，也可能被拆分为几个Token。根据公开资料的经验换算，1个Token大约相当于0.75个英文单词，或者1.5到2个汉字。

为什么这个概念如此重要？因为Token直接决定了三件事：

1. 成本——API计费通常按Token数量计算。
2. 上下文长度——用户输入的文本、对话历史、工具返回结果等所有内容都会占用Token。
3. 输出质量——上下文越杂乱，模型就越难以抓住重点。

3. Context：模型的“临时记忆体”

Context，就是模型在处理某一任务时所能“看到”的全部信息。这包括系统提示词、对话历史、用户当前输入、工具列表、工具返回的结果，甚至正在生成的内容。

你可以简单地把Context理解为模型每次处理任务时所接收的信息总和，也就是它的“临时记忆体”。

Context Window则是这个临时记忆体的容量上限。一旦超出这个窗口，模型就无法同时看到全部内容，此时就需要压缩、截断，或者利用RAG（检索增强生成）来检索相关片段。RAG的做法，本质上是将长文档切块、做向量化存储，在提问时只取最相关的片段放入Context，这样效率会大幅提升。

实际操作的启示是：不要把所有资料一股脑地全塞给AI。更好的做法是——先明确目标，再提供与目标紧密相关的背景、约束条件和具体材料。

4. Prompt：给模型的任务说明书

Prompt就是向模型提出的问题或指令。主要分为两类：

一个优秀的Prompt通常包含几个要素：角色、具体任务、输出格式、示例和约束。基本结构可以概括如下：

你是谁：你是一个……任务是什么：请帮我……输入材料：以下是……输出格式：请按……约束条件：不要……，必须……

一个核心观点值得牢记：Prompt不是什么“咒语”，它本质上是一份任务说明书。写好Prompt的本质，其实就是减少模型在判断时的不确定性。

5. Tool：让模型拥有“手和脚”

LLM本身只会生成文本，它无法直接去查天气、发邮件、运行代码或查询数据库。

Tool就像一个个函数，让模型能够感知并影响外部世界。但需要强调一点：模型自身并不会去执行这些工具，它只是告诉平台“我要调用什么工具”，真正执行的是平台或应用层。

典型的流程如下：用户提问 → 平台将问题和工具列表一起交给模型 → 模型决定调用某个工具 → 平台执行该工具 → 工具返回结果 → 模型基于这个结果组织最终回答。

关键在于：Tool让AI从“只会说”推进到了“还能做”的阶段。

6. 链路关系图

LLM ↓ 处理的基本单位Token ↓ 组成模型可见信息Context ↓ 用指令引导模型Prompt ↓ 连接外部能力Tool

启发

现代AI产品绝不仅仅是“模型”这一个组件。一个真正好用的AI系统，通常是多个层次叠加出的结果：

所以，判断一个AI产品强不强，不能只看它用了什么模型，更要看它的上下文组织得好不好，工具接得全不全。