开源通用视觉推理RL框架零思考数据刷新SOTA刘壮陈丹琦新作

通用视觉推理的强化学习框架开源版本正式发布，为AI社区带来突破性进展。

这项名为Vero的研究项目由普林斯顿大学刘壮团队主导，陈丹琦教授参与协作。项目基于创新的方法论构建，其视觉推理模型在图表解析、科学问答、空间关系判断及多样化开放视觉任务中均展现出卓越性能。尤为突出的是，该模型在超过30项权威基准测试中，达到了8B参数视觉语言模型的顶尖水准。

尽管GPT、Gemini等顶级模型早已展示了强大的视觉理解能力，但其背后精妙的强化学习训练方案一直是科技公司的核心机密。开源社区虽持续跟进，但多数方案往往局限于特定任务，例如专攻数学解题或图表分析，一旦面临任务类型切换，模型泛化能力便显著下降。

Vero的核心突破正在于此。它不仅提供了一个高性能模型，更贡献了一套完整、可复现的通用视觉推理训练框架。正如项目负责人刘壮所言，这项工作证明了“在学术研究环境中，凭借合适的人才与投入，同样能够取得与顶尖工业界团队相媲美的部分成就”。

开源RL方案，如何攻克视觉推理？

构建通用的视觉推理模型，通常面临两大核心挑战。

首先是“能力窄化”问题。基于现有开源强化学习方案训练的视觉语言模型，往往仅在单一任务类型上表现优异。一个在图表问答中表现出色的模型，在面对需要空间定位的任务时，性能可能急剧下滑。

其次是“任务混淆”问题。若尝试混合多种任务数据进行训练以期获得通用能力，结果常适得其反——模型不仅未能成为通才，反而因不同任务目标间的冲突导致性能崩溃，学习过程陷入混乱。

问题的根源何在？Vero团队深入研究发现，不同的视觉任务本质上激发并依赖于模型不同的推理策略。例如，解答图表问题需要精确的数据提取与逻辑比对，而完成物体定位则依赖于对图像的空间扫描与特征关联能力。使用同一套训练策略应对所有任务，自然难以取得理想效果。

针对这些根本性难题，Vero团队提出了三项核心解决方案。

Vero-600K：高质量、多样化的训练基石

首先，研究团队从59个公开数据集中进行严格筛选与清洗，构建了一个包含60万高质量样本的训练集——Vero-600K。

该数据集并非简单聚合，而是被系统性地划分为六大类别，全面覆盖视觉推理的核心维度：

• 图表与OCR：专注于图表信息解读与光学字符识别。
• STEM：涵盖科学、技术、工程及数学领域的复杂问题。
• 空间与动作：理解物体间的空间关系及动作指令。
• 知识与识别：考察通用常识与特定物体识别能力。
• 定位、计数与搜索：涉及目标定位、数量统计与视觉搜索任务。
• 描述与指令遵循：生成准确的图像描述并执行复杂的多步指令。

实验数据明确显示，仅在单一任务类型上进行强化学习训练的模型，其泛化能力极为有限。更严重的是，针对某类任务的专项优化，往往会损害模型在其他任务上的表现，出现显著的“负迁移”现象。

相比之下，在Vero-600K这种广泛且均衡的多任务数据集上进行训练，模型能够学习到通用的视觉推理模式，有效避免“偏科”，从而实现稳健且强大的跨任务泛化能力。

任务路由奖励：给不同问题配上专属裁判

第二项关键创新在于其动态奖励机制。视觉推理任务的答案形式差异巨大：选择题有固定选项，数学题要求精确数值，开放描述题则无标准答案。使用统一的评分标准显然不合理。

为此，Vero引入了“任务路由奖励”机制。该系统如同一个智能调度中心，能够根据当前处理的任务类型，自动将模型输出路由至相应的“专属评估模块”进行打分。

具体而言，对于选择题，直接判断选项正误即可。对于数学题，则调用数学校验器核对计算过程与最终结果。而对于开放式描述问题，Vero会引入另一个大型语言模型作为“评判官”，从相关性、准确性和完整性等多维度评估回答质量。

单阶段强化学习：大道至简的威力

第三点，也是最具启发性的发现，在于训练流程的极大简化。此前，一些顶尖闭源模型的强大能力，被认为部分依赖于使用私有“思维链”数据进行复杂多阶段训练。

而Vero的研究结果表明，解决方案可以更为简洁：只要具备高质量的数据过滤、均衡的任务混合以及精准的路由奖励机制，仅通过单阶段强化学习，便足以充分激发基础模型的通用视觉推理潜力。

实验结果提供了有力佐证。在未使用任何私有“思维”数据的情况下，基于Vero框架训练的模型，在30个基准测试中的23项上，其性能均超越了经过专门指令微调的Qwen3-VL-8B-Thinking模型。

深入的消融实验进一步揭示，广泛而高质量的数据覆盖是推动视觉推理强化学习性能提升的核心驱动力。这为未来研究指明了清晰路径：与其过度设计复杂的训练流水线，不如在提升数据多样性与质量上投入更多精力。

目前，Vero项目的全部核心资源——包括精心构建的数据集、完整的训练代码以及预训练好的模型权重——均已开源，为整个AI研究社区提供了极具价值的基准与可复现的起点。

背后的研究团队

Vero项目的两位通讯作者是Gabriel Sarch博士与蔡林嵘。

Gabriel Sarch博士毕业于卡内基梅隆大学，现任普林斯顿大学语言与智能中心（PLI）博士后研究员。值得一提的是，论文作者之一的陈丹琦教授，目前正担任PLI的副主任。

蔡林嵘本科毕业于威斯康星大学麦迪逊分校，目前正在普林斯顿大学攻读计算机科学硕士学位，师从刘壮教授，并由Gabriel Sarch博士联合指导。他的研究方向集中于视觉语言模型中的复杂推理问题。

项目负责人刘壮教授，本科毕业于清华大学计算机科学实验班（姚班），随后于加州大学伯克利分校获得博士学位，现任普林斯顿大学计算机科学助理教授。其学术生涯成果卓著：在CVPR 2017上，其作为第一作者的DenseNet论文荣获最佳论文奖；在Meta FAIR担任高级研究科学家期间，他与谢赛宁合作提出了具有影响力的ConvNeXt架构。在Meta期间，他与何恺明、Yann LeCun等顶尖学者亦有着深入的合作。

项目地址：https://vero-reasoning.github.io/