OpenAI o3-pro 正式发布,意味着当前 RAG 技术可能已经过时了
前两天,OpenAI正式发布了o3-pro,号称最强推理AI模型上线。这消息一出,整个AI圈瞬间炸开了锅——倒不是因为“推理最强”这个头衔,毕竟现在模型迭代速度堪比翻书,大家多少都有些免疫了。真正让人坐不住的,是接下来的这则重磅消息: o3的价格直接下调了80%,几乎降到了和GPT-4o同一水平。说
前两天,OpenAI正式发布了o3-pro,号称最强推理AI模型上线。这消息一出,整个AI圈瞬间炸开了锅——倒不是因为“推理最强”这个头衔,毕竟现在模型迭代速度堪比翻书,大家多少都有些免疫了。真正让人坐不住的,是接下来的这则重磅消息:
o3的价格直接下调了80%,几乎降到了和GPT-4o同一水平。说实话,这种从顶配价格直接“跳水”的降价策略,在行业内确实不多见。
具体来看:
- 调整前:输入token每百万10美元,输出token每百万40美元;
- 调整后:输入token每百万约2美元,输出token每百万约8美元;
虽然和DeepSeek那种极致低价比起来,这个价位依然不算便宜,但好歹也算是一次诚意满满的让利。可能有些朋友对这个数字没什么直观感受——10000字的提示词,之前要花0.72元,现在只要0.144元了。对开发者和企业用户来说,成本压力一下子就小了不少。
更惊喜的是,o3-pro的上下文窗口拉到了200k,最大输出token达到了100k。算下来,一次至少能喂进去约15万字的提示词——15万字是什么概念?相当于一篇短篇小说的体量,够你细细看上好几个小时了。
无论是更低的费用还是更长的上下文,这两点都直接利好Agent架构中的记忆问题。通俗点说,就是RAG(检索增强生成)因为有了更长的上下文,可以玩出更多花样了。
作为AI应用中80%的落地场景都会涉及的核心技术,今天就来聊聊RAG的几种常见玩法与实用策略。
AI应用这东西,说简单是真简单,一周就能搭出一个demo;说复杂也是真复杂,一年过去了,效果可能还停留在demo的水平。下面这张图就精准地再现了AI产品的调用流程:
整个过程其实很简洁——一段提示词输入,经过LLM处理,最后输出。但就是这“输入”和“输出”两个环节,里面的门道深得很。
一、基础RAG
这是最基础的检索增强模式,核心逻辑就是利用文档搜索来提升模型的回答质量与准确性。
最初大家用这个模式,多半是为了给模型喂特殊数据(知识)。举个例子,大模型关于糖尿病的诊断建议是基于临床指南的,但如果我们想要实现一个医生的数字分身,就必须让他用该医生的真实回答来回应。背后的流程大致如下:
基础RAG最大的优点就是快速、易落地;短板也很明显——检索策略比较死板,推理链条偏单薄。
从工程层面看,RAG只包含三个关键步骤:向量检索 → 上下文拼接 → 一次性生成。这套流程足以在短时间内搭建出一个可用的Demo,可一旦场景复杂度提升,缺陷就会迅速暴露。下面这张表能帮你快速了解问题所在:
| 问题 | 典型表现 | 主要成因 |
|---|---|---|
| 检索覆盖不足 | 用户同义改写或长句提问时,未命中关键文档 | 检索策略固定,Top-k与阈值写死,不做Query Rewriting |
| 回答缺少链路 | 需要跨段、跨文件推理时,答案片段不完整 | 上下文仅拼接局部最近邻,缺知识关联 |
| 可观测性差 | 输出跑偏后,难以定位是检索错还是Prompt问题 | 缺少“检索→拼接→生成”三段日志 |
正是因为这些短板,高级RAG框架很快就应运而生。
二、高级RAG
别看名字带“高级”,其实逻辑一点都不复杂。它就是在基础RAG之上,增加了一系列工程控制策略与优化手段。
说白了,就是把原本“只会在一个抽屉里翻文件”的基础RAG,升级成“先问清楚需求、跑遍整个图书馆、再把最有价值的段落按优先级贴到桌面”的智能助手。它的效果直接体现在三个方面:召回率大幅提升,精准度明显提高,可观测性也更强了。
这里举个例子,你一看就明白了:
| 场景 | 痛点(基础RAG) | 高级RAG怎么破 | 效果对比 |
|---|---|---|---|
| 三甲医院内部指南问答 (跨科室18万条SOP+1.2万页指南) | 医生问“糖尿病患者术前能否继续二甲双胍?” 向量检索只拉进了药品说明书,漏掉了《围术期管理要点》 | - 子查询加上“围手术期”“停药时机” - BM25召回抓住专业术语 - 交叉编码器把SOP段落排在首位 | 召回率62%→93% 回答引用2段→6段,高可信引用一次成文 |
| 券商研究部多维数据分析 (非结构化研报+时间序列CSV) | “请给出2024Q1新能源车销量滑坡背后三大因素” 文本检索没法把销量曲线、月度库存一起召回 | - 分路召回:文本向量+数值区间筛选 - Query拆成“销量”“库存”“补贴”三路 - 重排序让含图表的段落优先 | 报告生成时间80s→18s 含结构化洞察率0→100% |
所以可以这样理解:高级RAG = 多通道找资料 + 智能排序 + 过程可追踪的检索增强方案。它让AI的回答既更全面又更精准,而且一旦出错,可以快速定位到问题环节。
传统RAG只用向量Top-k检索,经常漏掉专业术语或编号;高级RAG则同时跑向量、关键词、结构化数据等多路召回,再用轻量模型二次排序,把真正相关的段落放到最前。不仅如此,系统还会自动记录召回率、覆盖率等指标,如果出了问题,也可以很快查到是检索缺料还是Prompt失误。
总而言之,就是在策略层面多了一些手段,在调试方面也更加友好。
三、GraphRAG
GraphRAG之前我们专门介绍过。
如果说基础RAG像是在抽屉里翻资料,高级RAG像是在图书馆里跑一圈并打上标签,那GraphRAG就是把所有知识点串成一张关系网。你查询的时候,可以直接沿着这张网的路径跳跃式推理。
它把“检索增强”升级到了“关系增强”,让模型真正理解“谁跟谁有关系、为什么”。来看一张对比表:
| 维度 | 高级RAG | GraphRAG |
|---|---|---|
| 检索颗粒度 | 文本块(段/页) | 实体+关系+路径 |
| 上下文拼接逻辑 | Top-k+重排序 | 多跳路径+语义子图 |
| 典型能力提升 | 召回率↑、日志↑ | 多跳推理↑、事实连贯性↑、幻觉↓ |
| 代表实现 | 分路召回+交叉编码 | KG构建&GNN+三段式推理引擎 |
| 适用场景 | 大文档QA、报告生成 | 跨文件因果推理、异构数据综合分析 |
和之前的RAG技术相比,GraphRAG的门槛明显高出一截。光是构建过程就足够复杂,比如之前有个真实案例,就涉及一个知识预处理阶段:
# 知识图谱构建示意
kg = {
"nodes": [
{"id": "案例-XX医疗项目", "type": "case"},
{"id": "部门墙", "type": "problem"},
{"id": "Figma-Axure冲突", "type": "root_cause"},
{"id": "埋雷预警", "type": "solution", "proprietary": True}
],
"edges": [
{"source": "案例-XX医疗项目", "target": "部门墙", "rel": "典型案例"},
{"source": "部门墙", "target": "Figma-Axure冲突", "rel": "深层原因"},
{"source": "埋雷预警", "target": "案例-XX医疗项目", "rel": "验证方案"}
]
}
- 输入:
根据以下知识图谱路径回答问题:
用户问题 -> 部门墙 -> 典型案例 -> XX医疗项目
↓
根本原因 -> Figma-Axure冲突
↓
解决方案 -> 埋雷预警(专有方案)
- 输出:
这个问题在《XX医疗项目》中有典型体现:
1️⃣ **冲突起源**:设计组使用Figma交付原型,开发组坚持Axure格式(识别到工具冲突实体)
2️⃣ **恶性循环**:沟通不畅导致开发擅自删除「消息已读」功能(关联到结果实体)
3️⃣ **破局关键**:
- 立即实施「需求对齐看板」(关联解决方案)
- 启用课程独创的「埋雷预警」机制(优先调用私有方案)
4️⃣ **效果验证**:二期项目交付周期缩短37%(绑定结果数据)
四、推理型RAG
如果说GraphRAG是把资料“织成网”,那推理型RAG就是在网里塞进一位能“拆题-找料-论证-拍板”的小型决策官。它将思维链推理与检索动态调度融合,直接面向“复杂思考+自主决策”的应用场景。
事实上,我并不认为推理型RAG比知识图谱的策略更高明。但如果基于知识图谱做推理,效果显然会更好。只是不通过图谱也能CoT。
以下是一些对比维度:
| 能力维度 | 具体描述 | 业务价值 |
|---|---|---|
| 思维链增强 | 内置CoT和分层推理,可在回答中展开Step-by-Step逻辑 | 复杂问答更可解释,方便审核与质控 |
| 自反思机制 | 自动评估中间结论并回溯优化 | 输出一致性↑,减少“一次性偏题” |
| 多步骤分解推理 | 将一个复杂任务拆成子步骤、递进求解 | 支持诊疗、投研等多环节流程 |
| 动态检索能力 | 推理过程中按中间结果实时调整检索策略 | 降低“查早、查少、查错”三大风险 |
为了方便理解,举个具体的例子:
- 30岁男性,三天前起发热38.6℃,伴咳嗽、皮疹(躯干散在红斑),近24h出现乏力、关节酸痛。血常规:WBC 12×10⁹/L,CRP 48 mg/L。
- 给出最可能的5个诊断并指出下一步检查/用药建议。
这种情况,就要上推理型RAG了:
步骤1:症状网络构建
先把患者口述的所有信息拆成“症状、体征、检查、指标”等标准标签,再自动计算“两两/三元”组合的重要度。系统只对权重最高的组合打上深度检索标记,并在界面里用节点-边图可视化。医生一眼就能看出哪些是真正值得追问与排查的线索,避免被零散信息淹没核心问题。
步骤2:动态取数
策略引擎实时监听高权重组合,比如:
- 出现“黄痰+胸痛”时,立即调用感染性疾病索引;
- 检测到“呼吸短促”则切换到胸膜并发症知识图谱。
这样做的好处是先问清再查料,按需拉取指南段落、病例摘要和实验室阈值,而不是一次性拉满Top-k。既省token,又缩短响应延迟。检索结果会带上“触发原因+来源库”标签,便于后续审计。
步骤3:回溯闭环
系统先基于当前证据自动生成首版诊断列表并打置信度分,再为每条诊断设置关键否定条件(比如“若无发热,则需重新评估肺栓塞”)。一旦反事实验证不通过,回溯控制器就会重开检索-推理流程并写入修正日志,形成可追踪的自纠错闭环。
最终输出的不仅是一行诊断结论,还包括推理路径、证据引用和下一步检查/用药建议。既合规,也方便质量迭代。
五、Agentic RAG
这个东西其实没什么好细讲的,基本就是Manus那套模型即所有的套路——主打模型会自己聪明地查找到所有需要的资料。由于我自己还没实际用过,就不随便评论了。
结语
过去两年,大模型的变化说翻天覆地也不为过。集中体现在两个方面:
- 第一,模型的基础能力更强了;
- 第二,模型的上下文更长了。
但这在前两年可完全是另一回事。主流大模型的上下文窗口从4k到8k、16k、32k、64k……一路往上爬。最初,谁想让模型吸收操作手册或聊天库,唯一的可行办法就是先把文档切成能塞进窗口的小片段,再做向量检索和拼接。
于是各种花式chunk策略应运而生:递归滑窗、层级重叠、语义边界分段。它们不是“炫技”,而是那个时代的权宜之计。
如今,通用模型的上下文窗口已经拉到128k、200k甚至更大。结果很直接:能整篇塞进去的文档,就没必要硬切。这并不是否定旧方法,只是承认边际收益正在递减——你再雕琢分块粒度,带来的增益也抵不过“一次性放进去”带来的信息完整度。
但得提醒一句:当前模型对长文的理解能力还没那么完美,插入过长的提示词依旧存在一个窗口期。
所以,新一代RAG的使用方式,最近可能会有不小的演进:
- 窗口够大就整篇输入,不够再按结构化单元分。“切不切”更像成本决策,而非技术信仰;
- 检索层负责把文本、图像、视频统一变成向量或结构,业务代码不再东拼西凑;
- 检索-推理-验证全程留痕。
过去的分块是时代产物;未来的看点,是让检索和推理在更丰富、更实时的多模态数据上无缝衔接,把有限的工程精力投到真正能提高业务价值的环节上去,而不是继续在切割细节上反复雕花。
参考:RAG技术的演进中对RAG的分类方式
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:OpenAI o3-pro 正式发布,意味着当前 RAG 技术可能已经过时了要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点客服需用标准化话术应对投诉,先归类前5类高频问题,再按情绪安抚、事实澄清(按需)、解决方案三层结构设计模板,并在阶跃AI后台配置变量话术且通过模拟测试后启用。客户投诉时情绪往往激烈,客服若临时组织语言容易词不达意、激化矛盾,需要一套能快速调用、语气得体、覆盖高频场景的标准化话术模板。 梳理投诉类型
通义千问系列模型升级至Qwen2,涵盖0 5B至72B共五个尺寸,全部标配分组查询注意力机制,上下文长度最高支持128Ktokens。新增27种语言训练数据,在代码、数学等能力上显著提升,Qwen2-72B超越Llama-3-70B等顶尖开源模型。
腾讯发布混元文生图大模型加速库,生图时间缩短75%,支持ComfyUI界面与HuggingFace三行调用。作为业内首个中文原生DiT架构开源模型,支持中英双语输入,最低11GB显存。
StabilityAI推出StableAudioOpen1 0,专门用于生成鼓点、乐器乐段及环境音效等短音频片段,时长最长47秒。该模型遵循非商业研究社区协议开源,允许用户进行微调,训练数据源自FreeSound及免费音乐档案,确保不含版权材料,可用于研究和创作。
- 日榜
- 周榜
- 月榜
热点快看
