Open-Sora 2.0视频生成模型重磅开源速度之快令人惊叹
开源视频生成领域正迎来一场新的技术革命。视频生成模型 Open-Sora 2 0 正式亮相——这个项目仅花费 20 万美元(约合 224 张 GPU)便训练出拥有 110 亿参数的商业级大模型,直接对标那些训练成本动辄数百万美元的闭源巨头。今天,我们来深入拆解这个项目的核心突破,以及它为何被誉为“开
开源视频生成领域正迎来一场新的技术革命。视频生成模型 Open-Sora 2.0 正式亮相——这个项目仅花费 20 万美元(约合 224 张 GPU)便训练出拥有 110 亿参数的商业级大模型,直接对标那些训练成本动辄数百万美元的闭源巨头。今天,我们来深入拆解这个项目的核心突破,以及它为何被誉为“开源视频生成标杆”。
1. 体验与指标双在线
先看实际效果。Open-Sora 2.0 在多项关键评测指标上,已能与 HunyuanVideo 和 300 亿参数的 Step-Video 一较高下。权威评测 VBench 和用户偏好测试均证实了这一点——它不仅视觉表现惊艳,在文本一致性以及动作呈现方面同样扎实可靠。
具体来说,它支持动作幅度可控,可根据需求细腻展现人物或场景的运动细节;提供 720p 高分辨率与 24 FPS 的流畅视频输出,帧率稳定、细节丰富;从乡村景色到自然风光,画面过渡平滑,细节还原度极高。
在 110 亿参数规模下,它在 VBench 和人工偏好评测中均取得了与主流闭源模型同等水平的成绩。在视觉表现、文本一致性和动作表现三个维度上,Open-Sora 在至少两个指标上超越了开源 SOTA 模型 HunyuanVideo 以及商业模型 Runway Gen-3 Alpha。以极低成本实现高性能——这句话放在这里,再合适不过。
再看 VBench 指标。从 Open-Sora 1.2 升级到 2.0 后,它与行业领先的 OpenAI Sora 闭源模型之间的性能差距大幅缩小——从之前的 4.52% 降至仅 0.69%,几乎全面追平。更值得一提的是,Open-Sora 2.0 在 VBench 评测中的得分已超过腾讯的 HunyuanVideo,以更低的成本实现了更高的性能。开源视频生成技术的标杆,已被重新定义。
2. 实现突破:低成本训练与高效能优化
Open-Sora 自开源以来,凭借高效与优质表现吸引了大量关注。但高质量视频生成成本居高不下,始终是一道难以逾越的障碍。市面上 100 亿参数以上的开源视频模型,单次训练成本动辄上百万美元,而 Open-Sora 2.0 将其降低了 5 到 10 倍。
作为开源视频生成领域的领导者,Open-Sora 不仅开源了模型代码和权重,还公开了全流程训练代码,成功构建了一个强大的开源生态。据第三方技术平台统计,Open-Sora 的学术论文引用量半年内获得近百次引用,在全球开源影响力排名中稳居首位,领先所有开源的 I2V/T2V 视频生成项目,成为全球影响力最大的开源视频生成项目之一。
2.1 模型架构
Open-Sora 2.0 延续了 1.2 的设计思路,继续采用 3D 自编码器和 Flow Matching 训练框架,并通过多桶训练机制,实现对不同视频长度和分辨率的同时训练。在模型架构上,引入了 3D 全注意力机制,进一步提升视频生成质量。同时采用最新的 MMDiT 架构,更精准地捕捉文本信息与视频内容之间的关系,模型规模从 10 亿扩展至 110 亿。此外,借助开源图生视频模型 FLUX 进行初始化,大幅降低了训练成本。
2.2 高效训练方法和并行方案全开源
为了追求极致的成本优化,Open-Sora 2.0 从四个方面入手削减训练开销。
第一,严格的数据筛选。采用多阶段、多层次的筛选机制,结合多种过滤器,从源头提升模型训练效率。
第二,高分辨率训练的成本远超低分辨率,达到相同数据量时,计算开销可能高达 40 倍。以 256px、5 秒的视频为例,tokens 数量约 8000,而 768px 的视频 tokens 数量接近 80000,相差 10 倍,再加上注意力机制的平方级计算复杂度,高分辨率训练的代价极其昂贵。因此,Open-Sora 优先将算力投入到低分辨率训练,以高效学习运动信息,在降低成本的同时确保模型能够捕捉关键的动态特征。
第三,优先训练图生视频任务,以加速模型收敛。相比直接训练高分辨率视频,图生视频模型在提升分辨率时具备更快的收敛速度,从而进一步降低训练成本。在推理阶段,除了直接进行文本生视频(T2V),还可以结合开源图像模型,通过文本生图再生视频(T2I2V),获得更精细的视觉效果。
第四,采用高效的并行训练方案,结合 ColossalAI 和系统级优化,大幅提升计算资源利用率。为了实现这一点,引入了一系列关键技术:高效的序列并行和 ZeroDP,优化大规模模型的分布式计算效率;细粒度控制的 Gradient Checkpointing,在降低显存占用的同时保持计算效率;训练自动恢复机制,确保 99% 以上的有效训练时间;高效数据加载与内存管理,优化 I/O,防止训练阻塞;高效异步模型保存,减少模型存储对训练流程的干扰;算子优化,针对关键计算模块进行深度优化。这些措施协同作用,使 Open-Sora 2.0 在高性能与低成本之间取得最佳平衡。
2.3 高压缩比 AE 带来更高速度
训练完成后,Open-Sora 进一步探索了高压缩比视频自编码器的应用,以大幅降低推理成本。目前,大多数视频模型仍采用 4×8×8 的自编码器,导致单卡生成 768px、5 秒视频耗时近 30 分钟。为解决这一瓶颈,Open-Sora 训练了一款高压缩比(4×32×32)的视频自编码器,将推理时间缩短至单卡 3 分钟以内,推理速度提升 10 倍。
要实现高压缩比编码器,需要解决两个核心挑战:如何训练高压缩但仍具备优秀重建效果的自编码器,以及如何利用该编码器训练视频生成模型。针对前者,团队在视频升降采样模块中引入残差连接,成功训练出一款重建质量媲美当前开源 SoTA 视频压缩模型、且具备更高压缩比的 VAE。针对后者,Open-Sora 提出了基于蒸馏的优化策略,以提升自编码器特征空间的表达能力,并利用已经训练好的高质量模型作为初始化,减少训练所需的数据量和时间。此外,重点训练图生视频任务,利用图像特征引导视频生成,进一步提升了高压缩自编码器的收敛速度。
从行业趋势来看,高压缩比视频自编码器将成为未来降低视频生成成本的关键方向。目前的初步实验结果已展现出显著的推理加速效果,希望能进一步激发社区对这一技术的关注与探索,共同推动高效、低成本的视频生成发展。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:Open-Sora 2.0视频生成模型重磅开源速度之快令人惊叹要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点小米MiMo开放平台宣布,MiMo-V2系列的四款模型将于2026年6月30日正式下线,平台已推动开发者向V2 5系列迁移。具体涉及mimo-v2-pro、mimo-v2-omni、mimo-v2-flash和mimo-v2-tts模型。平台设置了系统替换时间作为缓冲:pro和omni模型于2026
2026重庆车展上,2026款长安猎手K50正式上市,共推出10款车型,售价14 19万至17 89万元。新车主要针对续航、电池和动力进行升级,搭载2 0T增程系统与双电机,纯电续航超180公里,快充仅需16分钟。全系标配30kW外放电功能,储备电量达239kWh,并新增山地与涉水模式,提升通过性。
上海期货交易所与上海市普陀区人民政府于6月12日签署战略合作协议,旨在建立长期共赢的合作机制,共同服务上海国际金融中心与国际贸易中心的联动发展。双方高层领导均出席签约仪式,彰显了对此次合作的高度重视。协议聚焦于发挥期货市场专业资源与区域发展综合优势,深化务实合作,探索金融创新与实体经济深度融合,以期
6月12日,世纪华通发生一笔大宗交易,以每股14 37元的价格成交757 24万股,成交总额为1 09亿元。值得注意的是,该成交价与当日市场收盘价持平,属于平价交易。此次交易额占该股当日总成交额的1 51%。市场分析认为,平价成交反映了买卖双方对当前股价水平的共识,交易行为相对平稳,未对市场预期造成
- 日榜
- 周榜
- 月榜
热点快看
