国产3B小模型编程性能比肩Opus 4.5
VibeThinker-3B是新浪微博团队开发的30亿参数推理模型,在编程、数学等可验证任务上性能比肩千亿参数模型,AIME26得分94 3,LeetCode最新周赛通过率96 1%。基于Qwen2 5-Coder-3B,采用Spectrum-to-Signal训练流程和CLR策略提升推理能力,但通用知识领域表现受限。
在人工智能领域,近期一款参数量仅为3B的小型推理模型引起了广泛关注。凭借仅30亿的参数量,它在编程等可验证推理任务上,与Gemini 3 Pro、GPT-5 high、Claude Opus 4.5、GLM-5、Kimi K2.5等参数量动辄数百亿乃至上千亿的“巨无霸”模型展开了激烈较量,并成功进入相同的性能区间。虽然模型体积相差数个数量级,但其表现却毫不逊色。

这款模型名为VibeThinker-3B,是一个仅拥有30亿参数的密集型推理模型。它的核心任务十分明确:在如此紧凑的模型规模下,将可验证推理能力推向极致。模型发布后,社区中众多从业者对其成绩感到惊讶,纷纷表达出尝试体验的意愿。


更令人意外的是,它出自国产研发团队——新浪微博团队之手。

根据技术报告透露,该模型专为那些拥有明确验证信号的任务而设计,涵盖数学推理、竞技编程、STEM推理以及带有严格约束的指令执行。因此,它在多项基准评测中表现极为亮眼:AIME 26得分94.3,HMMT 25得分89.3,LiveCodeBench v6(Pass@1)达到80.2%,更令人惊叹的是,在2026年4月至5月期间LeetCode最新未公开的周赛与双周赛中,它取得了96.1%的通过率。

那么,如此强大的模型是如何训练出来的?技术报告中的细节为我们揭开了谜底。它基于Qwen2.5-Coder-3B,并采用升级版的Spectrum-to-Signal流程进行后训练。该流程在监督微调(SFT)阶段强化了数据合成、质量过滤与课程学习,接着将MGPO风格的强化学习扩展到多个可验证领域,保留完整的长上下文推理轨迹,最后通过离线自蒸馏与指令强化学习(Instruct RL)来巩固各项能力。

VibeThinker-3B的整体训练流程示意图

Spectrum-to-Signal流程详解
此外,VibeThinker-3B引入了一项名为Claim-Level可靠性评估(CLR)的测试时缩放策略,专门针对可验证答案的推理场景。该策略进一步提升了数学基准成绩:AIME 26从94.3提升至97.1,HMMT 25从89.3提升至95.4,BruMO 25更是达到了99.2。

具体训练流程可归纳为以下四个步骤:
第一,基于课程的两阶段SFT。第一阶段聚焦数学、编程、STEM推理、通用对话与指令遵循,实现广泛的能力覆盖;第二阶段则转向更高难度、更宽视野的推理样本。其中多样性探索蒸馏用于保留多个有效的解决方案路径。
第二,多领域推理强化学习。此处复用了MGPO方案,依次在数学、编程与STEM推理上应用强化学习。训练窗口使用单个64K的长上下文,确保完整的长时域推理轨迹不被截断。
第三,离线自蒸馏。从数学、编程和STEM RL的检查点中,筛选并提炼出高质量轨迹,最终合并到一个统一的学生模型里。此处引入“学习潜力评分”机制,优先考虑那些答案正确但学生模型尚未完全模仿好的轨迹。
第四,Instruct RL。在最后阶段,增强模型对用户提示的可控性。对于格式敏感与开放式的教学数据,结合基于规则的验证器与基于评分标准的奖励模型进行训练。
知名AI研究者Sebastian Raschka也系统总结了这份技术报告中的关键要点。

如果你对这些细节感兴趣,可以查阅完整的技术报告,该模型也支持公开下载使用。

报告题目:VibeThinker-3B: Exploring the Frontier of Verifiable Reasoning in Small Language Models
报告地址:https://arxiv.org/pdf/2606.16140
HuggingFace地址:https://huggingface.co/WeiboAI/VibeThinker-3B
不过,该模型的应用范围存在明显局限——在需要通用知识的领域表现并不突出。


作者团队也明确指出这一点,并提出了“参数压缩覆盖假设”:不同能力对模型参数的依赖方式截然不同。可验证推理更像是一种高度可压缩、参数密集的能力,核心在于多步推理、约束满足、自我纠错与答案验证。当任务空间结构足够清晰、反馈信号足够可靠时,紧凑型模型也能逼近前沿推理水平。相比之下,开放领域知识、通用对话与长尾场景理解,则依赖大规模参数来广泛覆盖事实、概念和世界知识。
这个假设极具启发性。正如VentureBeat在报道中所言:“它揭示了推理能力与事实知识之间存在部分解耦关系,前者可以比此前设想的更高效地压缩。这对业界看待模型设计、部署成本以及高级AI功能的普及性,都具有深远影响。”


作者表示,他们的目标并非用一个小模型替代大模型,而是希望沿着特定能力维度,审视小模型的真正边界所在。通过VibeThinker-3B,他们希望传递一个信号:小模型不应仅仅是降低部署成本的妥协方案。在那些拥有清晰反馈与验证机制的能力领域中,小型语言模型正展现出极具前景的研究路径,有望达到前沿性能,并与传统的参数规模扩展范式形成根本性的互补关系。
当然,该模型在社区中也面临一些质疑。如果你感兴趣,不妨亲自下载体验,看看它的实际表现究竟如何。

参考链接:https://x.com/orcus108/status/2066876960073288567
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:国产3B小模型编程性能比肩Opus 4.5要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点Sora生成国风短片时细节错乱源于提示词缺乏物理结构、材质逻辑和视觉锚点的显性约束。通过锁定人物服饰结构、控制场景材质逻辑、统一风格动态节奏,并对易错部位做负向限制,可有效稳定画面。提示词越精确,AI越不易跑偏。
DevinAI是面向高频、规则半明确日常工程化任务的自主执行引擎,支持自然语言配置定时任务、多源数据联合分析、模板复用及异常自动恢复,可将重复性琐事彻底自动化闭环,显著提升效率。
PhysForge由香港大学与腾讯混元等机构提出,仅需单张输入图像即可生成具备部件结构、物理属性、功能语义与运动学参数的可交互3D资产,直接用于机器人仿真与虚拟世界,相关工作已被ICML2026接收。
美团6篇论文被计算语言学顶级会议ACL2026收录,研究方向覆盖大模型评测、复杂流程推理、竞赛级数学思维优化、强化学习及生成式推荐,旨在提升推理能力并探索AI在本地生活服务中的新范式。
- 日榜
- 周榜
- 月榜
热点快看
