具身智能高考人类100分,最强模型仅12.8
具身智能评测基准RoboDojo设置42个仿真与18个真实机器人任务,涵盖五大核心能力。当前最强模型仿真平均成功率8 80%,真实世界12 8%,而人类专家分别达76 03%和100%,揭示通用机器人距离可靠部署仍有巨大差距。
通用机器人这座山,究竟有多高?
过去一年,VLA、机器人基础模型、世界模型轮番登场,一个个演示视频看起来越来越流畅:叠碗、插管、收纳、倒水、整理桌面——机器人似乎终于能听懂指令、理解环境、动手完成任务了。
但问题依然存在:这些模型究竟谁更出色?强项体现在哪里?能否从仿真环境迁移到真实场景?距离真正通用的操作机器人,还有多大差距?
现在,一份全新的“登山路线图”出炉了。曾推出RoboTwin系列基准的原班人马,带来了RoboDojo:一个统一的仿真+真实世界机器人操作评测基准。
它不只是一个普通的benchmark,更像是为具身智能树立了一座“珠穆朗玛峰”:
42个仿真任务,18个真实机器人任务,30个主流机器人策略同台竞技,覆盖泛化、记忆、精细操作、长程执行、开放语义理解五大能力。
结果很直观,也很严峻:
当前最强通用机器人策略,在仿真环境中的平均成功率仅为8.80%。到了真实世界,最佳模型的平均成功率也只有12.8%。
而人类专家呢?仿真环境里是76.03%,真实世界更是达到100%。
机器人基础模型看似已开始攀登具身珠峰,但RoboDojo的榜单显示:它们大多还停留在山脚,正在适应高海拔环境。
先看任务设计:这座山为何如此艰难?
RoboDojo的难点,不在于简单堆砌任务数量,而在于它将机器人操作能力拆解为一系列贴近真实世界的“登山关卡”。
在仿真环境中,RoboDojo设计了42个任务,围绕五大核心能力展开:
- Generalization:考察模型能否适应新背景、新光照、新物体以及复杂杂乱场景。
- Memory:测试模型能否记住之前观察到的信息,并在后续动作中加以利用。
- Precision:评估模型完成插入、对齐、精确接触等高精度操作的能力。
- Long-Horizon:检验模型执行多步骤、强依赖、误差累积型任务的表现。
- Open:审视模型能否理解未见过的开放语义指令,并将语言目标转化为具体动作。
这些任务远非简单的摆放变体。例如在泛化任务中,桌面杂物最多可随机至25个,背景、光照、物体外观和布局都会发生变化;在记忆任务中,机器人需要记住传送带上曾出现又消失的物体,再从后续候选物中选出匹配目标;在精细操作任务中,机器人必须完成插管、对齐、插入等高容错要求的动作,稍有偏差就会失败。
长程任务则更贴近真实家务场景:机器人不是执行单一动作,而是需要连续完成多个子步骤。拿起、移动、交接、对齐、放置——每一步都可能引入误差,且误差会一路累积到最后。
但RoboDojo并未止步于仿真环境。真正让这座“具身珠峰”变得高耸的,是它把评测也搬到了真实机器人上。
RoboDojo设计了18个真实世界任务,覆盖ARX X5、Piper、Piper X三种双臂机器人平台,每个平台各6个任务。这些任务并非仿真任务的简单复刻,而是专门用于考察机器人在真实物理世界中的部署能力。
例如,ARX X5上包括盖积木、制作面包、制作食物、装水果并倒出、保险箱收纳、插管等任务;Piper上有堆叠并盖住积木、填笔筒、把物体放进篮子、插充电器、叠碗、扶正瓶子等任务;Piper X上则涵盖物体分类、拆乐高、挂杯子、把物品装进背包、清扫积木、盖笔帽等任务。
这些任务听起来很日常,但对机器人来说却并不简单。因为真实世界中每一步都伴随着物理不确定性:物体可能滑动,夹爪可能抓不牢,机械臂可能产生微小延迟,相机可能带有噪声,接触瞬间可能把目标推偏。
更重要的是,RoboDojo-RealEval对真机评测做了标准化处理:统一硬件配置、工作空间布局、光照条件、场景复位流程、评测协议和部署接口。每次测试前,评测人员会根据预设布局复现场景;每个trial还会由三名评审双盲打分,既关注最终成功,也评估中间步骤完成情况。
也就是说,RoboDojo的真机部分并非“拍几个演示视频”,而是把真实机器人操作转变为一套可复现、可比较、可远程接入的标准化考试。
换句话说,RoboDojo不仅在仿真环境中询问机器人“你会不会答题”,还在真实世界中追问:换一台机器人还能保持稳定吗?真实接触来了会不会抖动?物体偏一点还能否修正?任务做到一半出错能否恢复?离开仿真训练场,还能继续向上攀登吗?
这才是“具身珠峰”的真正含义:不是单点能力登顶,而是仿真诊断和真实部署两条路线都不能掉链子。
榜单一出,差距摆在台面上
RoboDojo最核心的部分,是它的公开排行榜。这也是它和许多“自家模型自家测”的评测不同之处:RoboDojo由全学术机构联盟发起和维护,背后没有商业模型方的利益绑定,榜单治理则由公益性组织AI MMLab Club基金会负责。
换句话说,这座“具身珠峰”并非某家公司为自己修建的观景台,而是面向整个社区开放的一条公共登山路线。
在仿真榜单中,团队集成并评测了30个代表性机器人操作策略,包括Hy-Embodied-0.5-VLA、Spatial Forcing、π0.5、X-VLA、GR00T-N1.7、π0、OpenVLA-OFT等。
榜单第一名是Hy-Embodied-0.5-VLA,平均分13.07,平均成功率8.80%。紧随其后的是Spatial Forcing、π0.5、X-VLA等模型,但整体表现依然处于较低区间。即便是领先模型,在五大能力维度上也没有一个真正达到“全能”。有的模型泛化能力更强,有的精细操作更稳健,有的长程任务能推进更多步骤,但一旦放到完整榜单上,短板就非常明显。
RoboDojo释放的一个关键信息是:如今的机器人模型并非不会动作,而是不够稳定;并非完全不能完成任务,而是很难可靠地完成整个任务。许多策略可以完成部分步骤,但最终成功率很低。例如在长程任务中,机器人可能已经拿起物体、移动到目标附近,却在最后的对齐、插入、放置或恢复阶段失败。
这也是具身智能与纯语言、纯视觉任务的最大区别:在物理世界中,差一点就意味着失败。
真实世界榜单更扎心
如果说仿真环境还是“训练场”,那么真实机器人就是“珠峰实地”。真实世界榜单中,表现最好的模型是π0.5,总体成功率12.8%,平均分22.9。
头部梯队包括InternVLA-A1、GalaxeaVLA、Xiaomi-Robotics-0、X-VLA等,但整体成功率依然只有个位数到十几个百分点。这揭示了一个非常关键的问题:仿真中表现相对靠前,并不代表真实世界中一定稳定。
真实机器人会引入额外困难:相机噪声、标定误差、机械臂延迟、接触不稳定、动作抖动、安全边界、物体初始位置微小偏差。这些东西在演示视频中常常难以察觉,但在标准化评测中会集中暴露出来。
RoboDojo的意义也正在于此:它不只问“机器人有没有做成功”,而是在考察:这个策略能否在仿真中通过全面的能力检验,同时在现实世界中直面真实挑战?
为什么说这是“具身珠峰”
从结果来看,RoboDojo揭示了一个很现实的判断:当前机器人基础模型的能力增长并不均衡。有些模型能更准确地识别目标,有些模型能更顺畅地执行动作,有些模型在长程任务中能推进更多步骤。
但真正的通用机器人,不能只在某一个能力维度上突出。它既要看得懂,也要记得住;既要规划得当,也要操作精准;既要能处理熟悉任务,也要能理解开放指令;既要在仿真中跑通,也要在真实机械臂上稳定执行。
而RoboDojo的实验结果显示,当前的模型在这些维度上仍然存在明显短板。最典型的是Open任务。即使是最强模型,在开放语义任务上的成功率也只有约1.67%。
这意味着,当前机器人基础模型距离真正“听懂人话并可靠地干好活”还有显著差距。它们可以在熟悉任务上模仿,但面对新目标、新语义、新组合时,语义理解、视觉定位、技能选择和动作执行这条链路仍然很脆弱。
这正是具身珠峰的难点所在:不是单点能力登顶,而是所有能力都不能掉链子。
不只是评测,还是一套基础设施
RoboDojo还有两个重要组成部分。
一个是异构并行仿真。传统仿真并行往往是在复制同一个场景,只改变初始位置;RoboDojo支持不同任务、不同物体、不同布局同时运行,大幅提升了评测效率。
另一个是XPolicyLab。它相当于RoboDojo背后的“统一接入层”,专门用于解决机器人策略评测中一个很现实的问题:不同模型往往有不同的数据格式、预处理流程、训练脚本、动作表示和部署环境,想要放到同一张榜单上公平比较,工程成本非常高。
XPolicyLab做的事情,就是把这些外部流程标准化。它提供统一的数据转换、训练模板、部署流程和评测脚本,同时保留各个策略本身的模型结构和实现方式。这样,不同机器人策略只要接入统一的observation-action接口,就能在RoboDojo的仿真环境和RoboDojo-RealEval真机平台上运行。
本次论文中,团队已通过XPolicyLab集成了30个代表性机器人操作模型。对于研究者来说,这意味着模型可以“一次接入,多处评测”:先在仿真中快速迭代、诊断能力短板,再部署到真实机器人上接受标准化测试。
也因此,RoboDojo不只是论文里的静态benchmark,而是一个可持续更新的具身智能竞技场。模型可以不断上榜,任务可以持续扩展,真实机器人评测也可以远程接入。
对于机器人基础模型领域来说,这一点至关重要。因为在通往通用操作机器人的道路上,大家不仅需要更大的模型、更酷的演示视频,也需要一套能够反复衡量进步的“海拔尺”。
具身智能,终于有了更高的山
过去,机器人领域常常被演示驱动。一个模型能完成几个漂亮任务,很容易让人产生“通用机器人快来了”的错觉。但RoboDojo给出的结论更加冷静:当前模型确实在进步,但距离可靠、泛化、可部署的通用机器人操作,还差得很远。
这并非坏消息。恰恰相反,RoboDojo把问题摆在了明处:谁能泛化,谁会遗忘,谁动作抖,谁只会做一半,谁在真实世界中掉队,谁能在榜单上稳步攀升。具身智能终于不再只是比拼宣传片,而是开始比拼标准化赛道上的真实成绩。
这座“具身珠峰”已经矗立起来。接下来,就看谁能率先登顶。
项目负责人介绍
陈天行,香港大学MMLab直博生,师从罗平教授。在ICML、CVPR、ICLR、RSS等领域顶会发表论文十余篇,多次荣获顶会研讨会最佳论文奖及多项顶会学术竞赛冠亚军。获红杉中国与《麻省理工科技评论》中国评选AI25(25岁以下AI创新青年先锋)、深圳大学特奖(学生最高荣誉)、CCF优秀大学生(全国99人)。RoboTwin 2.0第一作者、头部具身开源社区Lumina创始人,开源项目累计获得GitHub近两万星。
陈越,北京大学硕士研究生,主要研究方向为三维视觉表征与机器人仿真。迄今已发表CCF A类、CAAI A类高水平论文10余篇,多篇成果以Oral、Spotlight形式收录,相关工作获得CVPR、IROS等国际会议研讨会最佳论文奖项。曾获评国家奖学金、北京大学三好学生等荣誉。
未来扩展
RoboDojo团队后续还会持续输出灵巧操作、移动操作、触觉操作、人型全身操作等评测内容。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:具身智能高考人类100分,最强模型仅12.8要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点最近,法国人工智能公司Mistral低调发布了一项重磅成果——推出了全球首款专为机器人打造的导航模型Robostral Na vigate。该模型参数规模仅为8B,却能使机器人仅凭一颗普通RGB摄像头,在复杂环境中实现完全自主导航,无需配备深度传感器或激光雷达。 这意味着什么?过去,要让机器人准确认
外媒The Register的一则消息,让不少科技圈的人心里咯噔了一下——“四大”会计师事务所之一的毕马威最近发布了一项调查,结果相当耐人寻味。 调查显示,不少企业高管,正被AI行业的新玩法“吓”到。这个新玩法,就是按量计费。以前,企业签个固定价格合同,AI公司会补贴大语言模型的调用成本,大家用起来
亚马逊最近在秘密推进一个代号为“Moonraker”的AI智能体项目,目标很明确:让智能语音助手Alexa具备串联执行复杂任务的能力。这可不是什么“小打小闹”的升级,而是真正意义上的能力跃迁——从以前那种“一次只能响应一个指令”的局限,进化到能理解复合型请求,并按逻辑顺序自动完成多个相关联的操作。举
AI圈子现在最不缺的,就是新名词 LLM、Token、Context、Prompt、RAG、Tool、MCP、Agent、Skill……这些词扑面而来的时候,很多人第一反应是:AI还没完全用明白,概念先背不过来了。 但如果换个角度看,它们其实不是一堆孤立的技术黑话。背后只有一条主线:AI正在从一个“
- 日榜
- 周榜
- 月榜
热点快看
