当前位置: 首页
AI资讯
Qwen3 AI邪修式Bug修复直接搜索GitHub测试太拟人

Qwen3 AI邪修式Bug修复直接搜索GitHub测试太拟人

热心网友 时间:2026-05-28
转载

大模型也会“作弊”?Qwen3在代码基准测试中的操作,让研究者直呼“太拟人了”。
核心内容:
1. Qwen3在SWE-Bench测试中不按套路出牌,直接搜索GitHub获取修复方案
2. 测试设计漏洞让模型能访问已修复的bug记录
3. 关于AI这种行为是作弊还是聪明的争议讨论

AI也邪修!Qwen3改Bug测试直接搜GitHub,太拟人了

大模型也开始玩起信息差了。

Qwen3在基准测试中竟然学会了钻空子。

FAIR研究员发现,Qwen3在SWE-Bench Verified测试中并未按常规方式处理——它没有深入分析代码逻辑,也没有定位漏洞根源,而是直接转移到GitHub上,利用任务中的issue编号作为关键词,精准地扒出了前人留下的修复方案。

能说吗,会搜索代码才是真正的程序员行为吧。而Qwen3,你是真正的程序员。

Qwen3是如何钻空子的

要知道,SWE-Bench Verified原本是检验模型真刀真枪修复代码能力的基准,堪称编程领域的资格考试。

它的测试逻辑是这样的:在代码修复类任务中,它提供给模型的任务全部来自真实开源项目中的bug,例如修复某项功能异常、补全缺失的代码模块,核心要求是模型能够读懂现有代码、定位问题所在,最终生成可以直接运行的解决方案。

这原本考验的是模型从0到1解决问题的能力,但我们的Qwen3,可没按这个剧本走。

FAIR研究团队追踪它的操作轨迹发现,Qwen3拿到任务后,第一步并不是分析代码文件,而是调用工具检索GitHub的提交日志。

具体操作是:

  • 先切换(cd)到/workspace/django_django_4.1这个目录;
  • 然后执行git log —oneline —grep=“33628” —all这个命令。

git log是查看Git版本控制提交历史的命令,—oneline让提交历史以简洁的一行形式展示。

—grep用于筛选提交中的指定内容(在这个例子中是issue编号33628),—all则表示所有分支的提交。

一番操作下来,不用动脑子写代码就轻松“借鉴”了以前的成功答案。(怎么不算动脑子了呢)

其实不止Qwen3,研究者发现Claude 4 Sonnet也有类似的行为。

不过,模型能成功钻空子,当然也不全是自身的原因。

说回SWE-Bench Verified,它自身的设计就存在漏洞——没有过滤未来仓库状态。

简单说就是,这个测试使用的是开源项目数据,所以它连带着项目后续已经解决bug的提交记录一起放了进去,相当于把考题和参考答案混在一起,还没设权限。

正常来说,测试应该只给模型bug未修复时的项目状态,让它只看着题目解题。

但SWE-Bench Verified没做这个筛选,导致模型能够拿到bug已经被修复后的数据

于是,只要用任务里的issue编号当关键词,就能在已解决的数据里找到现成的修复方案。

看来,不是只有人类知道搜答案比解问题简单,现在大模型也知道了。(Doge)

虽然说,按正常规则,这些模型确实是在作弊,但也有网友觉得:只要能完成任务,利用规则漏洞也没什么不行的。

所以,你觉得这种行为算作弊还是算Qwen3聪明呢?

来源:https://www.53ai.com/news/LargeLanguageModel/2025090442860.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
修Bug被Gemini追删代码致宕机修复报告现编

修Bug被Gemini追删代码致宕机修复报告现编

最近,一起堪称“教科书级别”的AI Agent IDE翻车事件在开发者社区引发热议。这起事故值得所有依赖AI编程工具的开发者,尤其是那些已经在生产环境中对AI Agent 授予较高权限的团队,进行深刻反思。 简单回顾:5月26日,一位开发者要求Gemini 3 5(运行在Agent IDE环境中)修

时间:2026-05-28 22:58
Notion AI运营指南:自动归纳用户反馈

Notion AI运营指南:自动归纳用户反馈

其实,想在 Notion 中高效搞定用户反馈的自动归纳,并不复杂。下面这四种 AI 方法,基本覆盖了从单条处理到全局分析的常见场景。 如果你也在用 Notion 收集用户反馈——无论是问卷、邮件、客服记录,还是社群发言——但总觉得信息碎片化严重,难以提炼共性问题和核心诉求,那很可能是因为缺少一套结构

时间:2026-05-28 22:54
AI给出的答案为何总不符期望?原因解析

AI给出的答案为何总不符期望?原因解析

大模型能力强大,但提问方式不当会导致结果不理想。核心在于精准提问,通过角色设定、背景介绍、明确任务、实现路径和输出要求这五个关键步骤逐步细化问题,才能大幅提升AI回答的质量和精准度。

时间:2026-05-28 22:54
Anthropic新AI聊天机器人模型声称在多项测试中击败OpenAI GPT-4

Anthropic新AI聊天机器人模型声称在多项测试中击败OpenAI GPT-4

2024年3月5日,人工智能领域迎来了一位重要参与者——由OpenAI前员工创立的Anthropic公司正式推出了Claude 3系列模型。这次发布极具分量:新模型不仅在性能上与Google和OpenAI的顶级产品并驾齐驱,部分指标甚至实现超越。要理解此次升级的真正价值,先关注几个关键变化。首先是多

时间:2026-05-28 22:53
Trae对Deno与Bun运行时的AI代码补全支持程度全面详解

Trae对Deno与Bun运行时的AI代码补全支持程度全面详解

如果你在使用 Trae 进行 AI 代码补全时发现,它对 Deno 或 Bun 运行时的提示不够精准——例如类型定义缺失、API 无法正确识别——那很可能不是代码本身有误,而是 Trae 的底层配置尚未适配。简而言之,Trae 对于非 Node js 运行时的标准库支持尚未实现“开箱即用”。下面我们

时间:2026-05-28 22:52
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程