一图读懂LLM、RAG、AI Agent及MCP等核心概念

AI 核心概念全景大图：一张图看懂九大行话

刚接触 AI 领域，面对众多专业术语，你可能会感到困惑：Token、Prompt、RAG、Agent、MCP……这些概念听起来都很厉害，但它们之间究竟有什么关联？今天，我们通过几张清晰的架构图，帮你梳理这套知识体系。看完之后，你会有一种豁然开朗的感觉，彻底理解 AI 系统的工作原理。

整体架构关系图：AI 系统到底长什么样？

一个真实的 AI 应用，远不止是让大模型在后台默默回答问题。它更像一条高效的流水线，每个环节各司其职，最终组合成你看到的“智能”效果。理解这个整体架构，是掌握 AI 核心概念的第一步。

flowchart TB
subgraph 用户层
U[用户输入]
end

subgraph Prompt 工程
P1[System Prompt
系统指令]
P2[Instruction
任务指令]
P3[Examples
示例]
P4[Output Format
输出格式]
end

subgraph RAG 检索增强
R1[用户问题]
R2[向量数据库]
R3[Embedding
向量化]
R4[相似度检索]
R5[Top-K 文档]
end

subgraph Context 上下文
C1[System Prompt]
C2[历史对话]
C3[检索文档]
C4[工具返回结果]
C5[当前用户输入]
C6[Context Window
最大 token 限制]
end

subgraph Token 层
T1[Tokenizer 分词]
T2[Token 序列]
T3[Token IDs]
end

subgraph LLM 大语言模型
L1[Embedding 层]
L2[Transformer 层]
L3[注意力机制]
L4[输出层]
end

subgraph Tool 工具调用
TL1[搜索引擎]
TL2[计算器]
TL3[数据库]
TL4[代码执行]
TL5[API 调用]
end

subgraph MCP 协议
M1[MCP Server]
M2[MCP Client]
M3[统一工具接口]
end

subgraph AI Agent 智能体
A1[感知]
A2[推理/规划]
A3[行动]
A4[记忆]
A5[反思]
end

subgraph LangChain 框架
LC1[Models
模型接口]
LC2[Prompts
提示管理]
LC3[Chains
调用链]
LC4[Memory
记忆管理]
LC5[Tools
工具集成]
LC6[Agents
智能体]
LC7[Retrievers
检索器]
end

U --> P2
P1 --> C1
P2 --> C5
P3 --> P2
P4 --> P2
U --> R1
R1 --> R3
R3 --> R4
R2 --> R4
R4 --> R5
R5 --> C3
C1 --> C6
C2 --> C6
C3 --> C6
C4 --> C6
C5 --> C6
C6 --> T1
T1 --> T2
T2 --> T3
T3 --> L1
L1 --> L2
L2 --> L3
L3 --> L4
L4 -->|需要工具| TL1
L4 -->|需要工具| TL2
L4 -->|需要工具| TL3
L4 -->|需要工具| TL4
L4 -->|需要工具| TL5
TL1 --> C4
TL2 --> C4
TL3 --> C4
TL4 --> C4
TL5 --> C4
M3 --> TL1
M3 --> TL2
M3 --> TL3
M3 --> TL4
M3 --> TL5
M2 --> M3
M1 --> M2
A1 --> U
A2 --> L4
A3 --> TL1
A3 --> TL2
A3 --> TL3
A3 --> TL4
A3 --> TL5
A4 --> C2
A5 --> A2
LC1 --> L1
LC2 --> P1
LC3 --> T1
LC4 --> C2
LC5 --> TL1
LC6 --> A1
LC7 --> R4

这张图虽然看起来信息密集，但核心逻辑非常清晰：用户输入 → 加工 Prompt → 补充上下文 → 转成 Token → 送进大模型 → 必要时调用工具 → 最终输出。而 MCP、LangChain、Agent 这些概念，都是让这条流水线更规范、更自动化的不同层级的工具，理解它们的关系是掌握 AI 系统工作原理的关键。

一次完整请求的数据流向

理解了整体架构，我们再通过一个真实的问题，走一遍完整的数据处理流程，看看 AI 系统是如何一步步响应用户请求的。

可以看到，大模型是整个流程的决策中枢，但它并不孤单。需要查询资料时，RAG 登场；需要计算或实时信息时，工具上场；工具和模型之间的协调，往往由 LangChain 编排，通过 MCP 统一对接。答案不是一次性生成的，而是在“推理→工具→回填→再推理”的循环中逐步成形的，这也是 AI 应用的核心工作模式。

各概念的角色定位

与其死记硬背每个名词的定义，不如先搞清楚它们各自站在哪一层，以及它们在整个 AI 系统中的功能定位。

flowchart TD
subgraph 输入层
TOKEN[Token
基本单元]
CONTEXT[Context
上下文窗口]
PROMPT[Prompt
提示词工程]
end

subgraph 核心层
LLM[LLM
大语言模型
大脑]
end

subgraph 能力层
TOOL[Tool
外部工具]
RAG[RAG
知识检索]
MCP[MCP
工具协议]
end

subgraph 框架层
LANGCHAIN[LangChain
开发框架]
end

subgraph 应用层
AGENT[AI Agent
智能体]
end

TOKEN --> CONTEXT
CONTEXT --> PROMPT
PROMPT --> LLM
LLM --> TOOL
RAG --> CONTEXT
MCP --> TOOL
LANGCHAIN --> TOKEN
LANGCHAIN --> PROMPT
LANGCHAIN --> LLM
LANGCHAIN --> TOOL
LANGCHAIN --> RAG
LANGCHAIN --> AGENT
AGENT --> LLM
AGENT --> TOOL
AGENT --> RAG
MCP -.->|统一接口| LANGCHAIN

style LLM fill:#f9f,stroke:#333,stroke-width:3px
style AGENT fill:#ff9,stroke:#333,stroke-width:3px
style LANGCHAIN fill:#bbf,stroke:#333,stroke-width:3px

LLM 是大脑，Agent 是员工，LangChain 是脚手架。Token、Context、Prompt 是喂给大脑的原材料；Tool、RAG、MCP 则是给大脑配备的手脚和资料库。LangChain 负责将这些组件串联起来，Agent 则让这套系统能够自主运转，实现更复杂的任务。

分层关系详解

如果把 AI 应用比作一栋楼，每一层都有各自明确的分工，理解这些分层关系有助于你更系统地掌握 AI 技术栈。

最底层是输入层，决定模型“看到什么”；往上是 LLM，负责“理解并生成”内容；再往上是能力扩展层，让模型不再仅限于聊天功能；LangChain 是工程框架，帮你把这些能力落地实现；最顶层的 Agent，则是让 AI 像人一样自主完成任务的最终产品形态。

一图看懂九大概念关系

如果上面的架构图还是觉得太细，那么请记住下面这张“鸟瞰图”，它浓缩了 AI 核心概念之间的核心关系。

Prompt、RAG、Tool 最终都汇入 Context；Context 的本质是一串 Token；Token 进入 LLM 后，由它决定是直接回答，还是通过 MCP 去调用外部工具。LangChain 是这一切的粘合剂，而 Agent 是最终面向用户的产品形态，理解这条主线就能把握 AI 系统的精髓。

概念速查表

写在最后

AI 领域的概念虽然很多，但它们并不是孤立存在的。记住一条主线就够了：用户输入经过 Prompt 工程和 RAG 检索，形成丰富的上下文，转化为 Token 后交给大模型，大模型根据需求调用工具，最终生成输出。而 LangChain、Agent 和 MCP 则是让这个流程更高效、更智能的支撑体系。