面包屑图标 当前位置: 首页
AI资讯
热点详情

ECCV2026悉尼大学提出Linstereo打通立体匹配最后一公里

AI热点日报
AI热点日报时间:2026-07-07
热点解读

LinStereo提出位置感知线性注意力模块替代卷积迭代,实现全局上下文聚合且保持线性复杂度。结合多尺度代价体积与单目深度初始化,在冻结视觉基座模型编码器、仅用合成数据训练下,零样本泛化使Middlebury遮挡区域误差降低37%。在标准基准及水下跨域场景均取得领先性能。

立体匹配的前端已经跨入视觉基座模型时代,后端却还困在卷积局部递归的老路上。LinStereo 瞄准的正是这个断层——当 Depth Anything V3 已经能提供全局语义和多尺度表征时,ConvGRU 式的局部传播反而成了遮挡、弱纹理和水下退化场景里的瓶颈。

ECCV 2026

悉尼大学澳大利亚机器人中心的 Yiran Wang、Oliver Turner 和 Viorela Ila 在 ECCV 2026 论文中提出用位置感知线性注意力模块替代卷积迭代,使每轮迭代都能聚合全图上下文,再辅以多尺度代价体积和单目深度初始化来提升几何收敛。

更关键的是,LinStereo 在冻结视觉基座模型编码器、仅用 Scene Flow 合成数据训练下游 stereo 模块的前提下,零样本泛化就把 Middlebury 遮挡区域的误差压低了 37%。在多项标准评估数据上,它以 ViT-B 的体量战胜了更大参数量的模型,甚至在跨域场景(比如水下)也表现出了明显的优势。

  • 论文标题:LinStereo: Linear-Complexity Global Attention for Multi-Scale Iterative Stereo Matching

  • 作者:Yiran Wang†, Oliver Turner, Viorela Ila‡

  • 单位:Australian Centre for Robotics, The University of Sydney

  • 会议:ECCV 2026(已接收)

  • 论文链接:https://arxiv.org/abs/2606.25437

  • 代码:https://github.com/u7079256/LinStereo

现有迭代式匹配的瓶颈在哪

目前主流立体匹配的流程大同小异:预训练 backbone 出特征,建代价体积,ConvGRU 迭代回归视差。问题恰恰出在后半段。

backbone 输出了好几层不同分辨率的特征,但建代价体积时一般只用其中一层,多尺度信息被丢掉了不少。ConvGRU 每轮迭代感受野比较局限,碰到大面积弱纹理或水下这种退化场景,有用的匹配信号得跑好几轮才能传得到远处。再加上大多数方法都从零视差起步,头几轮迭代基本在摸场景大致轮廓,实际用来精细化的轮次并不多。

LinStereo 对应地做了三件事:PALA 换掉 ConvGRU 解决传播问题,HSCV 保留多尺度特征,DPI 用单目深度给一个靠谱的起点

图 1:LinStereo 整体架构。(a)多尺度层次化语义 cost volume(HSCV);(b)coarse-to-fine 迭代更新;(c)位置感知线性注意力更新模块(PALA)。

PALA:全局注意力,但只要线性复杂度

PALA 做的事情说起来很直观——把 ConvGRU 的局部更新换成全局注意力,让每个像素每次迭代都能看到整张图。难点在于 softmax attention 是 O(N²) 的,直接用在高分辨率视差图上跑不动。

PALA 的做法是对 query 和 key 做 kernel 激活(ELU+1),利用矩阵乘法结合律把复杂度降到 O(N·C_h²)。实测 3.50 ms 一次迭代,ConvGRU 是 3.63 ms,基本没差别。

但线性注意力有个已知毛病:kernel 化之后位置信息会丢失。PALA 用 2D RoPE 来补,这里有个比较巧妙的处理——RoPE 只加在注意力公式的分子上,分母不加。作者把这个叫“非对称 RoPE”。为什么不两边都加?因为分母端加了 RoPE 之后,归一化会引入位置偏移,注意力分布反而不稳定。消融也验证了这一点:KITTI 上差别不算大(EPE 1.05 vs 1.01),但换到水下 TartanAir-UW,RMSE 从 2.18 掉到 2.08,差了将近 5%。

图 2:PALA 模块架构,展示 kernel-activated attention、非对称 2D RoPE 和门控更新机制。

HSCV 和 DPI

HSCV 比较好理解:在 1/4、1/8、1/16 三个尺度上分别建代价体积,每个尺度内部再搞 4 层视差金字塔。这样 PALA 每轮迭代能查到不同粒度的匹配信息——浅层管纹理,深层管语义。去掉多尺度之后 KITTI EPE 涨了 0.06,水下 AbsRel 涨了 0.003,看着不大,但跟 PALA 配合起来效果会放大。

DPI 更直接。Depth Anything V3 的 backbone 本身能出一张单目深度图,虽然是 affine-invariant 的(只有相对远近,没有绝对尺度),但拿 SIFT 在左右图上匹配几个点就能把 scale 和 shift 算出来,转成度量视差当初始值。为什么不用 SuperPoint 或 LightGlue?因为这些学习型匹配器在水下之类的跨域场景可能失灵,SIFT 纯靠几何约束反而稳。SQUID 上 SIFT 的失败率只有 3.7%,失败了就退回零初始化,EPE 性能略降 0.08 个像素。

实验:标准 benchmark 和跨域泛化

标准 benchmark

LinStereo 的 backbone 是 ViT-B,参数量和数据量都比用 ViT-L 的 FoundationStereo、MonSter 小一截。从下表来看,常规场景上基本打平,遮挡场景上优势明显。

Middlebury 遮挡区域是最能体现全局注意力价值的指标。EPE 1.33,比排第二的 FoundationStereo 低了 16%,比之前的 DEFOM-Stereo(2.11)低了 37%。道理也好理解:被遮挡的像素附近没有可靠的匹配线索,ConvGRU 的局部窗口传不过来,PALA 可以直接从远处拿信息。

图 3:标准 benchmark 定性对比,LinStereo 在物体边缘和遮挡区域的深度图更干净。

跨域泛化:水下 zero-shot

全局传播的另一个受益场景是水下。光在水里按波长衰减,红色最先消失,再加上悬浮颗粒的散射,远处的纹理基本不可用。ConvGRU 在这种大面积退化的场景里传播太慢,PALA 就不存在这个问题。

LinStereo 没用过任何水下数据训练,但在水下 benchmark 上全面领先。

图 4:水下场景定性对比。退化严重的区域里,LinStereo 的深度图仍然连贯。

精准度和推理速度两手抓

T=2 迭代就能跑到 12.5 FPS(480×640),这个配置下 SQUID AbsRel 0.05 —— 在有计算性能受限的情况下,LinStereo 只需两次迭代优化(等效推理速度12.5FPS)仍能保持 SQUID AbsRel 0.05。

三个模块,协同才是关键

三个模块单独加都有提升,但组合在一起效果远超单独叠加。还有一个有意思的现象:PALA block 堆到 3 个(参数从 127M 涨到 147M),KITTI EPE 反而从 1.01 涨到 1.05。迭代本身已经在做隐式的深度堆叠,再显式加层数可能过拟合了。

SeaStereo 数据集

论文还发布了 SeaStereo-Dataset——40,320 对水下立体图像,带稠密视差标注,7 种 Jerlov 水体类型,用 Blender 做物理级水下光学渲染,前景是 ShapeNetCore 物体,背景是真实海洋照片。水下立体匹配一直缺公开数据,这个数据集对后续研究会比较有用。

参数高效:以小博大

得益于参数高效设计,127M 参数中超过 100M 来自冻结的 Depth Anything V3 backbone,真正需要训练的仅约 10M。这充分验证了轻量 decoder 的有效性:小参数量同样能撬动大规模预训练的强大先验,在小样本水下场景下达到当前性能。面向水下机器人等边缘算力平台,论文作者正进一步通过知识蒸馏压缩编码器,把推理延迟推向更极致的水平。

  • ECCV 2026 论文链接:https://arxiv.org/abs/2606.25437

  • GitHub:https://github.com/u7079256/LinStereo

作者简介

Yiran Wang,悉尼大学澳大利亚机器人中心(Australian Centre for Robotics)博士生,导师为 Viorela Ila 博士。本科毕业于澳大利亚国立大学(ANU)高级计算专业(荣誉学位)。研究方向涵盖计算机视觉、立体深度估计、运动生成与三维视觉,近期聚焦于利用 Vision Foundation Model 提升立体匹配在退化视觉条件下的鲁棒性。相关工作发表于 ECCV、NeurIPS、ICRA 等国际会议。

Viorela Ila,悉尼大学航空航天与机电工程学院高级讲师(Senior Lecturer),澳大利亚机器人中心核心研究员。2005 年获西班牙赫罗纳大学博士学位,后赴佐治亚理工学院从事博士后研究。研究方向涵盖视觉 SLAM、三维重建、图模型优化与水下机器人感知,近期代表工作包括动态 SLAM 框架 DynoSAM 等。

热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:ECCV2026悉尼大学提出Linstereo打通立体匹配最后一公里要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://www.jiqizhixin.com/api/article_library/articles/2026-07-05
最后一公里

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-07 20:10
Dzine AI图像设计工具 卓越构图与风格控制

Dzine是一款强调构图控制与风格管理的AI图像设计工具,提供样式库、图层操作、定位和素描工具,支持文生图与图生图,具备生成填充编辑、一键修复增强及最高6144像素超高清导出功能,降低设计门槛,兼顾新手与专业用户。

AI热点2026-07-07 20:09
Arrival基于云的SaaS解决方案

3D虚拟空间的搭建,过去往往依赖专业建模软件和大量手动操作,技术门槛相当高。但现在,一款名为Arrival的云端SaaS解决方案正凭借AI与拖放功能,将这件事变得像搭积木一样轻松便捷。 什么是Arrival? Arrival本质上是一套专业的软件工具,核心目标就是帮助用户快速构建一个3D虚拟空间。它

AI热点2026-07-07 20:09
AI用户访谈:洞察需求加速产品市场匹配

ZENAI通过AI自动完成用户访谈,省去人工招募与主持流程,并自动总结用户场景、痛点及人物画像。产品经理、设计师、研究员可借此快速验证假设、提炼场景、获取市场洞察,加速产品市场契合度(PMF)达成,提供基础与专业两种套餐。

AI热点2026-07-07 20:09
Meshcapade ME AI生成逼真数字人头像平台

MeshcapadeMe基于SMPL人体模型技术,提供API接口支持图像、视频、测量及3D扫描输入,自动生成统一格式的逼真数字分身,无需专业建模技能即可将各类素材转化为可动画、跨平台使用的数字人类,适用于虚拟现实、游戏与影视等领域。

延伸阅读