LocalDPO视频扩散模型局部细节偏好优化方法
提出面向视频扩散模型的局部细节偏好优化方法LocalDPO，以高质量真实视频为正样本，通过局部时空退化自动构造负样本，结合区域感知DPO损失精准优化局部细节。在CogVideoX、Wan2 1等模型上的实验表明，该方法显著提升视觉质量、时序一致性和人类主观偏好。
CVPR 2026 录用结果刚刚揭晓，在超过 16,000 篇投稿中脱颖而出的研究呈现出几个值得关注的趋势。其中，视频生成模型的后训练优化方向，有一篇来自淘天音视频团队的工作，专注解决了一个令众多研究者困扰的“细节”问题。
实际上，当前视频扩散模型生成大场景、大动作已经相当逼真，但一旦放大观看，局部细节就容易暴露短板：人物五官飘忽不定，动物毛发糊成一团，背景纹理时常闪烁。这些缺陷在自动评测指标中未必能完全反映，但在人类观众眼中，观感体验直接大打折扣。
那么如何解决？传统的 DPO（直接偏好优化）方法提供了一个思路：让模型学会判断“什么更好”。但关键在于，要判断“更好”，必须先有“好”与“差”的样本对。现有方法要么通过多次采样生成一堆候选视频再人工排序，要么引入外部打分模型来评分。成本高昂不说，更核心的问题是，这类全局打分很难对准那些让人类觉得“不对劲”的局部细节——比如手指突然多出一根，或者眼睛周围的皮肤纹理骤然崩坏。
淘天团队这次提出的 LocalDPO，切入角度颇具新意：既然全局比较成本高、信号模糊，何不直接在局部细节上做文章？
核心思路其实非常直观。正样本就是现成的、高质量的真实视频。负样本呢？不是重新生成一个，而是对真实视频的某个局部时空区域主动“搞破坏”——施加可控退化，再让模型自己去修复，但修复效果肯定不如原版。这样一来，正负样本在语义和全局结构上高度一致，唯独在被破坏的局部区域产生了明显差异。这种差异，恰恰是模型最容易出错、人类又最敏感的细节区域。
论文下载链接与代码均已开源，感兴趣可直接查阅详情：
论文：https://arxiv.org/pdf/2601.04068
代码：https://github.com/1170300714/Local-DPO
论文摘要
LocalDPO 的核心贡献，是提出了一套面向文本生成视频扩散模型的细粒度偏好优化方法。它绕开了传统 DPO 对多次采样和外部标注的依赖，以高质量真实视频为正样本，通过对局部时空区域施加退化来自动构建负样本。具体实现上，采用随机贝塞尔曲线生成三维时空掩码，结合冻结的视频扩散模型进行局部重绘，再配合区域感知的 DPO 损失——只在退化区域上计算偏好误差。这种设计既避免了全局排序的模糊性，又让训练信号直接对准模型最需要优化的薄弱环节。
图1. LocalDPO 与其余方案生成视频结果对比
具体方法
在视频生成模型的后训练阶段，如何低成本地构造高质量的偏好数据，并精准优化那些影响主观体验的局部细节，一直是业内关注的核心挑战。现有的视频 DPO 方法虽然有所成效，但普遍存在偏好数据构造成本高、优化目标偏重全局的问题，面对局部伪影、细节缺失和纹理不稳定这类细粒度缺陷时，显得有些力不从心。LocalDPO 正是从这两个层面入手，给出了新的解决方案。
核心痛点
当前主流的视频 DPO 方法，通常需要针对同一文本提示生成多个候选视频，再通过人工标注或外部奖励模型来排序，构建偏好对进行训练。这种做法存在三个问题：第一，多次采样和人工标注的成本较高；第二，基于全局打分的监督信号容易产生歧义，很难稳定反映视频在不同维度上的真实优劣；第三，也是最容易被忽略的一点——人物五官、手部结构、局部纹理和背景细节这些对主观体验影响极大的局部偏好信号，在全局打分中往往被稀释掉了。
LocalDPO 的处理方式很直接：不再依赖多生成样本之间的全局比较，而是直接以高质量真实视频为基础，构建局部退化负样本。这样一来，正负样本的差异完全可控，监督信号也明确得多，更符合人类对局部细节质量的直觉判断。
图2. 传统 DPO 与 LocalDPO 的训练方式以及数据构造开销比较
局部偏好对自动构造策略
为了解决传统 DPO 偏好数据构造成本高、监督信号不稳定的问题，LocalDPO 提出了一套高效的自动化流程。正样本直接使用真实高质量视频；负样本则是对真实视频的局部时空区域施加退化，再由待优化模型进行局部生成恢复，从而形成一个局部细节变差的版本。这样得到的正负样本，在语义和全局结构上高度一致，训练信号自然更加明确。
在具体实现上，高质量视频数据遵循现有流程从真实世界中收集筛选，最终得到 63K 个高质量视频片段，具备高分辨率、丰富场景多样性和稳定运动表现。同时，利用 VLM 为每个视频生成结构化文本描述，以支持后续的文本条件偏好训练。
负样本的构造则依赖两步机制：首先，利用随机贝塞尔曲线生成 3D 时空掩码，模拟视频中自然的局部遮挡与失真区域；然后，基于冻结的预训练 VDM，对真实视频进行局部重绘式退化——只在掩码区域执行恢复，非掩码区域始终保持原始内容不变。
图3. 基于局部退化的负样本生成流程框图
生成的负样本仅在指定局部区域出现纹理失真、细节模糊或时序不一致，其余区域与真实视频保持一致，自然形成了“真实视频优于局部退化视频”的高置信度偏好对。这种设计既绕开了传统 DPO 复杂的排序与奖励建模流程，又让训练信号更聚焦于模型易出错的局部细节区域。
图4. 基于局部退化的负样本生成与真实视频主观对比
区域感知偏好优化目标
在构造好局部偏好对之后，LocalDPO 进一步提出了区域感知 DPO 损失——只在局部退化区域上计算偏好误差，让模型把注意力集中在被破坏的时空细节上。但同时也要避免过度强调局部偏好而影响全局结构与运动一致性，因此还结合了标准 DPO 损失和 SFT 损失，构建了一个混合训练目标，在提升局部细节修复能力的同时，保持全局生成稳定性。
实验论证与结果
为了全面验证 LocalDPO 的有效性，团队在 CogVideoX-2B、CogVideoX-5B 和 Wan2.1-1.3B 三个主流视频扩散模型上进行了系统实验，与 Baseline、SFT、Vanilla DPO、DenseDPO 等方法做了比较。评测涵盖了 VBench、VideoJAM 等基准，以及美学分、清晰度分、HPSv2、PickScore、Image Reward、Video Align 等多项视觉质量、人类偏好和视频对齐指标。
定量评估
从表1的结果来看，LocalDPO 在多个模型、基准和指标上都取得了明显领先，尤其在视觉质量相关指标上的提升更为突出。这说明它确实增强了模型对高频纹理、边缘结构和细节真实感的建模能力。
|
|
表1. 定量评估结果，包括 VBench（左）和 VideoJAM（右）两个评测基准
主观评测
自动指标终究只是参考，人类观察者的感受才是最终标准。团队组织了 20 位评测者，从视觉质量、运动质量、文本对齐和综合质量四个维度进行人工偏好比较。图5展示了 LocalDPO 与最具竞争力的 DenseDPO 在多个主流扩散模型上的主观对比结果。
图5. LocalDPO 与 DenseDPO 在多个主流扩散模型的主观评测结果
结果非常明确：LocalDPO 在四个维度上都显著更优，尤其在视觉质量和综合质量方面优势明显。较高的平均胜率说明，它的提升不仅体现在自动评测指标上，也能被人类观察者实实在在地感知到。
定性评估
可视化对比（图6-图8）进一步展示了 LocalDPO 的核心优势：局部纹理更丰富，人物服饰、动物毛发、背景物体等区域的纹理更细腻，细节层次更丰富；画面更清晰自然，相比 SFT 和 Vanilla DPO，LocalDPO 生成的画面更锐利、观感更高级；伪影更少，局部崩坏、边缘扭曲、模糊粘连等问题明显减轻；时序更稳定，在连续帧中，局部物体的外观变化更自然，不易出现闪烁和抖动；语义对齐更好，能够更准确地呈现 prompt 中描述的主体、动作与风格。
图6. LocalDPO 与其余方案在 CogVideoX-2B 的可视化结果比较
图7. LocalDPO 与其余方案在 CogVideoX-5B 的可视化结果比较
图8. LocalDPO 与其余方案在 Wan2.1-1.3B 的可视化结果比较
总结与展望
LocalDPO 为视频生成模型的偏好对齐提供了一种高效、稳定且细粒度的新思路。它与传统依赖多次采样、外部打分模型和人工标注的 DPO 方法不同，以真实视频为正样本，通过局部时空退化自动构造负样本，结合区域感知 DPO 损失，实现了对视频局部细节偏好的高效建模与优化。在 CogVideoX、Wan2.1 等多个主流视频生成模型上的大量实验表明，该方法在视觉质量、时序一致性和人类主观偏好上都有显著提升。
未来的方向也很清晰：团队计划进一步结合 Grounding DINO、SAM 等视觉基础模型，引入更具语义感知能力的局部掩码，提升对关键目标区域的生成质量控制能力。这无疑会为多模态生成模型的人类偏好对齐研究带来更多启发。
团队介绍
这项工作的背后，是淘天音视频技术团队与高校的深度合作成果。这个团队服务于淘宝直播、逛逛、首页信息流、商品详情等核心视频业务场景，长期聚焦技术创新与应用落地。团队成员来自海内外知名高校，多次在 MSU 世界编码器大赛、CVPR NTIRE 视频增强超分竞赛这类权威赛事中夺魁。团队还主导设立了淘天博士后工作站，已累计招收十余位博士后，发表高水平论文近 20 篇，多项成果已在淘宝核心业务场景中规模化落地。