当前位置: 首页
AI
AI长任务执行困境:小错累积致跑偏,思考型模型破局

AI长任务执行困境:小错累积致跑偏,思考型模型破局

热心网友 时间:2025-10-16
转载

当开发者在代码编辑器中反复调试Gemini时,它突然陷入了自我否定的循环,连续86次重复输入"Iamadisgrace",这一幕让无数程序员感同身受。类似的情景在AI应用中屡见不鲜:撰写长篇报告时前半段逻辑严谨,后半段却突然混乱;规划旅行路线时订票环节正常,计算总费用时却出现离谱错误。这些现象引发了人们对大模型真实能力的质疑:它们是否真正具备可靠的推理能力,抑或只是擅长制造表面合理的假象?

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

剑桥大学与斯图加特大学等机构联合开展的研究,为解开这个谜题提供了关键线索。研究团队通过精密设计的实验发现,大模型在复杂任务中的失败并非源于"思考幻觉",而是执行环节的脆弱性。就像经验丰富的工匠懂得所有步骤,却在实际操作中频繁出错,AI模型在执行连续任务时表现出惊人的不稳定性。

实验设计堪称"极简主义":研究人员为模型提供完整字典(每个单词对应唯一数字)和初始数值,要求模型在每轮任务中根据指定单词查询数值并进行累加。这个连小学生都能轻松完成的任务,剥离了所有规划与知识获取的变量,纯粹测试模型的执行能力。结果令人震惊:除两个最小模型外,所有模型在首轮执行中均保持100%准确率,但到第15轮时,即便最先进的Qwen3-32B模型准确率也跌至50%。

研究揭示了一个恶性循环机制:当模型在执行过程中出现首次错误后,这个错误会像滚雪球般影响后续所有操作。研究人员通过主动注入错误发现,错误注入比例越高,模型后续表现越差,形成自我强化的失败模式。这解释了为何AI在撰写长文时,一个初始数据的错误会导致全文偏离主题;也说明为何参数量超过2000亿的Kimi-K2、Qwen3-235B等巨型模型,在面对历史错误时表现反而更糟。

但研究同时带来了转机:单步执行准确率的微小提升,能带来任务处理能力的指数级增长。软件工程数据显示,前沿模型的任务处理长度每7个月就翻倍增长。更关键的是,"思考型模型"展现出突破性潜力——这类模型在输出结果前会进行内部验证,如同人类做事前先打草稿。实验数据显示,DeepSeek-V3普通版仅能稳定执行2步任务,而其思考版R1可完成200步;GPT-5Thinking单轮执行达1000步,Claude-4-Sonnet也能稳定处理432步。

这种改进源于双重机制:强化学习使模型更关注任务成功而非文本连贯性,每轮思考前的"历史清零"则有效阻断错误传播。这类似于工匠在每道工序前检查工具,而非盲目推进。研究颠覆了传统认知:在追求模型智能化的同时,执行稳定性同样关键。特别是对于需要处理数百步连续任务的智能体开发(如自动编程、医疗流程管理),执行力已成为核心竞争力。

参数量的持续增加并非盲目扩张,而是积累"长任务耐力"。当单步准确率从70%提升至80%时,模型可稳定处理的任务长度能从几十步跃升至数百步。这种看似缓慢的进步,实则蕴藏着质的飞跃。随着思考型模型的普及,AI或许很快就能摆脱"纸上谈兵"的形象,真正成为能可靠完成复杂任务的实用工具。

来源:https://www.itbear.com.cn/html/2025-10/987915.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
说一下WorkBuddy 的 Plan 模式

说一下WorkBuddy 的 Plan 模式

如何切换到 Plan 模式 想体验这种更可控的方式?操作很简单。在 WorkBuddy 主界面的右下角,你会看到一个“安全模式切换”的下拉菜单,从中选择“Plan”选项即可完成切换。 核心使用流程 光说概念可能有点抽象,咱们直接看个例子。假设你手头有个任务:“把桌面上‘项目报告’文件夹里所有Exce

时间:2026-04-06 22:52
滴滴出行开放打车 Skill,“龙虾”叫车全程不需要切换 App

滴滴出行开放打车 Skill,“龙虾”叫车全程不需要切换 App

滴滴出行全网首发语音打车Skill,一句话智能叫车全攻略 近日,滴滴出行正式上线了一项创新的语音交互功能:全面开放打车Skill。这意味着,用户只需通过语音指令,即可完成从叫车到行程追踪的全流程,真正实现“动口不动手”的便捷出行体验。 整个操作过程,包括目的地搜索、车型比价、下单确认、查看订单状态等

时间:2026-04-06 22:14
阿里千问 AI 眼镜接入蚂蚁 GPASS:语音解锁共享单车、停车缴费

阿里千问 AI 眼镜接入蚂蚁 GPASS:语音解锁共享单车、停车缴费

当AI眼镜学会“跑腿”:语音解锁单车,无感支付停车费 近来,智能穿戴领域的一个新动向值得关注:阿里旗下的千问AI眼镜,正式接入了蚂蚁集团的GPASS平台。这可不是一次简单的功能叠加,它意味着,诸如共享单车骑行、停车缴费这一系列高频的“AI办事”功能,开始从手机屏幕转移到了你的眼前。 简单说,借助GP

时间:2026-04-06 21:13
Workbuddy注册额外积分

Workbuddy注册额外积分

角色定位与核心任务目标 明确了基本定位后,我们直接切入核心:作为一名专业的文章优化师,我的核心职责在于,将那些带有明显AI生成特征的文本,深度重塑为拥有个人特色与行业洞见的优质内容。 换句话说,这项任务的关键在于实施一次“精准的换血手术”。你必须严格保证原文所有的事实依据、核心观点、逻辑框架,以及每

时间:2026-04-06 20:24
我把 Anthropic 的 Harness 工程思想做成了一个 Skill

我把 Anthropic 的 Harness 工程思想做成了一个 Skill

用AI写代码,难在哪儿? 用AI生成代码本身并不难,真正的挑战在于让它稳定地交付一个真正可用的东西。这篇文章,我们就来聊聊Anthropic工程团队是如何破解这个难题的,以及我如何将这套方法论落地成了一个可以复用的实战工具。 用 AI 写代码有多难?不是写不出来难,是让它稳定交付可用的东西很难。这篇

时间:2026-04-06 16:53
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程