面包屑图标 当前位置: 首页
AI资讯
热点详情

OpenAI o3-pro 正式发布,意味着当前 RAG 技术可能已经过时了

AI热点日报
AI热点日报时间:2026-07-16
热点解读

前两天,OpenAI正式发布了o3-pro,号称最强推理AI模型上线。这消息一出,整个AI圈瞬间炸开了锅——倒不是因为“推理最强”这个头衔,毕竟现在模型迭代速度堪比翻书,大家多少都有些免疫了。真正让人坐不住的,是接下来的这则重磅消息: o3的价格直接下调了80%,几乎降到了和GPT-4o同一水平。说

前两天,OpenAI正式发布了o3-pro,号称最强推理AI模型上线。这消息一出,整个AI圈瞬间炸开了锅——倒不是因为“推理最强”这个头衔,毕竟现在模型迭代速度堪比翻书,大家多少都有些免疫了。真正让人坐不住的,是接下来的这则重磅消息:

o3的价格直接下调了80%,几乎降到了和GPT-4o同一水平。说实话,这种从顶配价格直接“跳水”的降价策略,在行业内确实不多见。

具体来看:

  • 调整前:输入token每百万10美元,输出token每百万40美元;
  • 调整后:输入token每百万约2美元,输出token每百万约8美元;

虽然和DeepSeek那种极致低价比起来,这个价位依然不算便宜,但好歹也算是一次诚意满满的让利。可能有些朋友对这个数字没什么直观感受——10000字的提示词,之前要花0.72元,现在只要0.144元了。对开发者和企业用户来说,成本压力一下子就小了不少。

更惊喜的是,o3-pro的上下文窗口拉到了200k,最大输出token达到了100k。算下来,一次至少能喂进去约15万字的提示词——15万字是什么概念?相当于一篇短篇小说的体量,够你细细看上好几个小时了。

无论是更低的费用还是更长的上下文,这两点都直接利好Agent架构中的记忆问题。通俗点说,就是RAG(检索增强生成)因为有了更长的上下文,可以玩出更多花样了。

作为AI应用中80%的落地场景都会涉及的核心技术,今天就来聊聊RAG的几种常见玩法与实用策略。

AI应用这东西,说简单是真简单,一周就能搭出一个demo;说复杂也是真复杂,一年过去了,效果可能还停留在demo的水平。下面这张图就精准地再现了AI产品的调用流程:

整个过程其实很简洁——一段提示词输入,经过LLM处理,最后输出。但就是这“输入”和“输出”两个环节,里面的门道深得很。

一、基础RAG

这是最基础的检索增强模式,核心逻辑就是利用文档搜索来提升模型的回答质量与准确性。

最初大家用这个模式,多半是为了给模型喂特殊数据(知识)。举个例子,大模型关于糖尿病的诊断建议是基于临床指南的,但如果我们想要实现一个医生的数字分身,就必须让他用该医生的真实回答来回应。背后的流程大致如下:

基础RAG最大的优点就是快速、易落地;短板也很明显——检索策略比较死板,推理链条偏单薄。

从工程层面看,RAG只包含三个关键步骤:向量检索 → 上下文拼接 → 一次性生成。这套流程足以在短时间内搭建出一个可用的Demo,可一旦场景复杂度提升,缺陷就会迅速暴露。下面这张表能帮你快速了解问题所在:

问题典型表现主要成因
检索覆盖不足用户同义改写或长句提问时,未命中关键文档检索策略固定,Top-k与阈值写死,不做Query Rewriting
回答缺少链路需要跨段、跨文件推理时,答案片段不完整上下文仅拼接局部最近邻,缺知识关联
可观测性差输出跑偏后,难以定位是检索错还是Prompt问题缺少“检索→拼接→生成”三段日志

正是因为这些短板,高级RAG框架很快就应运而生。

二、高级RAG

别看名字带“高级”,其实逻辑一点都不复杂。它就是在基础RAG之上,增加了一系列工程控制策略与优化手段。

说白了,就是把原本“只会在一个抽屉里翻文件”的基础RAG,升级成“先问清楚需求、跑遍整个图书馆、再把最有价值的段落按优先级贴到桌面”的智能助手。它的效果直接体现在三个方面:召回率大幅提升,精准度明显提高,可观测性也更强了。

这里举个例子,你一看就明白了:

场景痛点(基础RAG)高级RAG怎么破效果对比
三甲医院内部指南问答
(跨科室18万条SOP+1.2万页指南)
医生问“糖尿病患者术前能否继续二甲双胍?”
向量检索只拉进了药品说明书,漏掉了《围术期管理要点》
- 子查询加上“围手术期”“停药时机”
- BM25召回抓住专业术语
- 交叉编码器把SOP段落排在首位
召回率62%→93%
回答引用2段→6段,高可信引用一次成文
券商研究部多维数据分析
(非结构化研报+时间序列CSV)
“请给出2024Q1新能源车销量滑坡背后三大因素”
文本检索没法把销量曲线、月度库存一起召回
- 分路召回:文本向量+数值区间筛选
- Query拆成“销量”“库存”“补贴”三路
- 重排序让含图表的段落优先
报告生成时间80s→18s
含结构化洞察率0→100%

所以可以这样理解:高级RAG = 多通道找资料 + 智能排序 + 过程可追踪的检索增强方案。它让AI的回答既更全面又更精准,而且一旦出错,可以快速定位到问题环节。

传统RAG只用向量Top-k检索,经常漏掉专业术语或编号;高级RAG则同时跑向量、关键词、结构化数据等多路召回,再用轻量模型二次排序,把真正相关的段落放到最前。不仅如此,系统还会自动记录召回率、覆盖率等指标,如果出了问题,也可以很快查到是检索缺料还是Prompt失误

总而言之,就是在策略层面多了一些手段,在调试方面也更加友好。

三、GraphRAG

GraphRAG之前我们专门介绍过。

如果说基础RAG像是在抽屉里翻资料,高级RAG像是在图书馆里跑一圈并打上标签,那GraphRAG就是把所有知识点串成一张关系网。你查询的时候,可以直接沿着这张网的路径跳跃式推理。

它把“检索增强”升级到了“关系增强”,让模型真正理解“谁跟谁有关系、为什么”。来看一张对比表:

维度高级RAGGraphRAG
检索颗粒度文本块(段/页)实体+关系+路径
上下文拼接逻辑Top-k+重排序多跳路径+语义子图
典型能力提升召回率↑、日志↑多跳推理↑、事实连贯性↑、幻觉↓
代表实现分路召回+交叉编码KG构建&GNN+三段式推理引擎
适用场景大文档QA、报告生成跨文件因果推理、异构数据综合分析

和之前的RAG技术相比,GraphRAG的门槛明显高出一截。光是构建过程就足够复杂,比如之前有个真实案例,就涉及一个知识预处理阶段:

# 知识图谱构建示意
kg = {
    "nodes": [
        {"id": "案例-XX医疗项目", "type": "case"},
        {"id": "部门墙", "type": "problem"},
        {"id": "Figma-Axure冲突", "type": "root_cause"},
        {"id": "埋雷预警", "type": "solution", "proprietary": True}
    ],
    "edges": [
        {"source": "案例-XX医疗项目", "target": "部门墙", "rel": "典型案例"},
        {"source": "部门墙", "target": "Figma-Axure冲突", "rel": "深层原因"},
        {"source": "埋雷预警", "target": "案例-XX医疗项目", "rel": "验证方案"}
    ]
}
  • 输入:
根据以下知识图谱路径回答问题:
用户问题 -> 部门墙 -> 典型案例 -> XX医疗项目
        ↓
根本原因 -> Figma-Axure冲突
        ↓
解决方案 -> 埋雷预警(专有方案)
  • 输出:
这个问题在《XX医疗项目》中有典型体现:  
1️⃣ **冲突起源**:设计组使用Figma交付原型,开发组坚持Axure格式(识别到工具冲突实体)  
2️⃣ **恶性循环**:沟通不畅导致开发擅自删除「消息已读」功能(关联到结果实体)  
3️⃣ **破局关键**:  
   - 立即实施「需求对齐看板」(关联解决方案)  
   - 启用课程独创的「埋雷预警」机制(优先调用私有方案)  
4️⃣ **效果验证**:二期项目交付周期缩短37%(绑定结果数据)  

四、推理型RAG

如果说GraphRAG是把资料“织成网”,那推理型RAG就是在网里塞进一位能“拆题-找料-论证-拍板”的小型决策官。它将思维链推理与检索动态调度融合,直接面向“复杂思考+自主决策”的应用场景。

事实上,我并不认为推理型RAG比知识图谱的策略更高明。但如果基于知识图谱做推理,效果显然会更好。只是不通过图谱也能CoT。

以下是一些对比维度:

能力维度具体描述业务价值
思维链增强内置CoT和分层推理,可在回答中展开Step-by-Step逻辑复杂问答更可解释,方便审核与质控
自反思机制自动评估中间结论并回溯优化输出一致性↑,减少“一次性偏题”
多步骤分解推理将一个复杂任务拆成子步骤、递进求解支持诊疗、投研等多环节流程
动态检索能力推理过程中按中间结果实时调整检索策略降低“查早、查少、查错”三大风险

为了方便理解,举个具体的例子:

  • 30岁男性,三天前起发热38.6℃,伴咳嗽、皮疹(躯干散在红斑),近24h出现乏力、关节酸痛。血常规:WBC 12×10⁹/L,CRP 48 mg/L。
  • 给出最可能的5个诊断并指出下一步检查/用药建议。

这种情况,就要上推理型RAG了:

步骤1:症状网络构建

先把患者口述的所有信息拆成“症状、体征、检查、指标”等标准标签,再自动计算“两两/三元”组合的重要度。系统只对权重最高的组合打上深度检索标记,并在界面里用节点-边图可视化。医生一眼就能看出哪些是真正值得追问与排查的线索,避免被零散信息淹没核心问题。

步骤2:动态取数

策略引擎实时监听高权重组合,比如:

  1. 出现“黄痰+胸痛”时,立即调用感染性疾病索引;
  2. 检测到“呼吸短促”则切换到胸膜并发症知识图谱。

这样做的好处是先问清再查料,按需拉取指南段落、病例摘要和实验室阈值,而不是一次性拉满Top-k。既省token,又缩短响应延迟。检索结果会带上“触发原因+来源库”标签,便于后续审计。

步骤3:回溯闭环

系统先基于当前证据自动生成首版诊断列表并打置信度分,再为每条诊断设置关键否定条件(比如“若无发热,则需重新评估肺栓塞”)。一旦反事实验证不通过,回溯控制器就会重开检索-推理流程并写入修正日志,形成可追踪的自纠错闭环

最终输出的不仅是一行诊断结论,还包括推理路径、证据引用和下一步检查/用药建议。既合规,也方便质量迭代。

五、Agentic RAG

这个东西其实没什么好细讲的,基本就是Manus那套模型即所有的套路——主打模型会自己聪明地查找到所有需要的资料。由于我自己还没实际用过,就不随便评论了。

结语

过去两年,大模型的变化说翻天覆地也不为过。集中体现在两个方面:

  1. 第一,模型的基础能力更强了;
  2. 第二,模型的上下文更长了。

但这在前两年可完全是另一回事。主流大模型的上下文窗口从4k到8k、16k、32k、64k……一路往上爬。最初,谁想让模型吸收操作手册或聊天库,唯一的可行办法就是先把文档切成能塞进窗口的小片段,再做向量检索和拼接。

于是各种花式chunk策略应运而生:递归滑窗、层级重叠、语义边界分段。它们不是“炫技”,而是那个时代的权宜之计。

如今,通用模型的上下文窗口已经拉到128k、200k甚至更大。结果很直接:能整篇塞进去的文档,就没必要硬切。这并不是否定旧方法,只是承认边际收益正在递减——你再雕琢分块粒度,带来的增益也抵不过“一次性放进去”带来的信息完整度。

但得提醒一句:当前模型对长文的理解能力还没那么完美,插入过长的提示词依旧存在一个窗口期。

所以,新一代RAG的使用方式,最近可能会有不小的演进:

  1. 窗口够大就整篇输入,不够再按结构化单元分。“切不切”更像成本决策,而非技术信仰;
  2. 检索层负责把文本、图像、视频统一变成向量或结构,业务代码不再东拼西凑;
  3. 检索-推理-验证全程留痕。

过去的分块是时代产物;未来的看点,是让检索和推理在更丰富、更实时的多模态数据上无缝衔接,把有限的工程精力投到真正能提高业务价值的环节上去,而不是继续在切割细节上反复雕花。

参考:RAG技术的演进中对RAG的分类方式

热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:OpenAI o3-pro 正式发布,意味着当前 RAG 技术可能已经过时了要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://www.53ai.com/news/LargeLanguageModel/2025061653714.html
ai 人工智能

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-16 09:49
阶跃AI客服话术生成:针对客户常见投诉制定标准化回复模板

客服需用标准化话术应对投诉,先归类前5类高频问题,再按情绪安抚、事实澄清(按需)、解决方案三层结构设计模板,并在阶跃AI后台配置变量话术且通过模拟测试后启用。客户投诉时情绪往往激烈,客服若临时组织语言容易词不达意、激化矛盾,需要一套能快速调用、语气得体、覆盖高频场景的标准化话术模板。 梳理投诉类型

AI热点2026-07-16 07:59
阿里云通义千问Qwen2开源模型,5尺寸支持128K上下文

通义千问系列模型升级至Qwen2,涵盖0 5B至72B共五个尺寸,全部标配分组查询注意力机制,上下文长度最高支持128Ktokens。新增27种语言训练数据,在代码、数学等能力上显著提升,Qwen2-72B超越Llama-3-70B等顶尖开源模型。

AI热点2026-07-16 07:59
腾讯混元文生图开源大模型加速库发布生图时间缩短75%

腾讯发布混元文生图大模型加速库,生图时间缩短75%,支持ComfyUI界面与HuggingFace三行调用。作为业内首个中文原生DiT架构开源模型,支持中英双语输入,最低11GB显存。

AI热点2026-07-16 07:59
Stability AI发布AI音频模型Stable Audio Open 文本生成鼓点乐器音效

StabilityAI推出StableAudioOpen1 0,专门用于生成鼓点、乐器乐段及环境音效等短音频片段,时长最长47秒。该模型遵循非商业研究社区协议开源,允许用户进行微调,训练数据源自FreeSound及免费音乐档案,确保不含版权材料,可用于研究和创作。

延伸阅读