谷歌发布DiffusionGemma文本扩散AI模型 本地推理速度提升4倍
近日,谷歌发布DiffusionGemma文本扩散AI模型,通过并行去噪方式生成文本,本地推理速度比传统自回归模型快4倍,性能与Gemma4持平,在代码生成和数学推理任务上表现优异,已按Apache2 0协议完全开源,供社区自由使用与探索。
谷歌近日正式推出了名为DiffusionGemma的全新开放人工智能模型。该模型采用创新的文本扩散机制,旨在解决传统大语言模型在本地设备上推理效率偏低的问题。官方数据显示,其本地推理速度相较于传统自回归模型提升了4倍,为端侧与本地AI应用带来显著的性能提升。

目前,包括GPT、Gemini在内的主流大语言模型多采用自回归架构,需按顺序逐一生成文本单元。这种模式在云端服务器上表现优异,但在本地设备上受限于硬件内存带宽,容易导致计算资源浪费与速度瓶颈。DiffusionGemma则另辟蹊径,采用扩散模型的技术路线。
扩散机制带来并行处理优势
DiffusionGemma的核心创新体现在其生成方式上。它摒弃逐一生成本文单元的传统方法,转而通过对噪声逐步去噪,并并行处理全部文本单元以完成内容生成。这种并行化处理方式可同步优化整体输出效果,且完美适配本地低带宽运行环境,从而实现速度上的巨大飞跃。
性能表现与效率数据
在性能方面,DiffusionGemma的整体能力与同系列Gemma 4模型持平,兼顾高效推理与内容质量。模型支持生成过程的迭代纠错,输出内容的稳定性和一致性更强。其采样速率可达每秒1479个文本单元,单次生成耗时仅0.84秒,生成效率显著提升。
在具体性能测试中,DiffusionGemma展现了在多个领域的潜力。在代码生成方面,其在LiveCodeBench、BigCodeBench、HumanEval三项测试中分别取得30.9%、45.4%、89.6%的成绩,综合表现与Gemini 2.0 Flash-Lite相当。在数学推理的AIME 2025测试中,获得23.3%的得分,优于同期对比模型。
硬件适配与开源信息
在硬件适配性方面,DiffusionGemma的架构设计可充分发挥英伟达GPU的并行计算性能。实测数据显示:在单块H100 GPU环境下,模型每秒可生成1000个文本单元;在DGX Spark设备上速率为每秒150个文本单元;在DGX Station设备上则可达每秒2000个文本单元。整体速度约为同等运行条件下自回归模型的4倍。
据悉,DiffusionGemma已按Apache 2.0开源协议正式开放,开发者可前往Hugging Face平台下载模型权重,进行二次开发与部署。这为更多开发者在本地设备上部署高效AI模型提供了新的选择。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:谷歌发布DiffusionGemma文本扩散AI模型 本地推理速度提升4倍要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点GoogleMeet是面向商业与企业的视频会议服务,支持屏幕共享、实时字幕及与GoogleWorkspace集成,适用于项目讨论、网络研讨和线上教学等多种会议场景,具备扎实的安全与隐私保护。
Lanter是Chrome扩展,利用AI将YouTube视频语音转为带时间戳的文字笔记,支持一键抓取高光、自动标点排版、书签管理、全局搜索及每日邮件汇总,方便高效回顾视频关键内容。
一款AI驱动的Chrome扩展音频笔记应用,支持录音自动转文字、标签分类与全文搜索,将语音转化为可检索的数字资产,显著提升信息定位与管理效率。
专为GoogleMeet设计的AIChrome扩展,实时转录会议内容,自动生成摘要并提取行动项与决策,无缝同步至Google文档、任务及Gmail,省去手动整理时间,显著提升协作效率。
- 日榜
- 周榜
- 月榜
热点快看
