苹果FS-DFM模型：8轮迭代生成长文本，效率提升超百倍

近日，苹果公司与俄亥俄州立大学科研团队共同发布了一项语言模型领域的重大突破——新型生成模型“少步离散流匹配”（FS-DFM）。该模型通过创新的算法设计，在确保长文本生成质量的同时，将传统模型所需的数千次迭代压缩至仅8次，生成效率实现高达128倍的显著提升，为大规模语言模型的高效应用开辟了新方向。 作为扩散模型的升级版本，FS-DFM的关键创新在于其三阶段动态优化机制。研究团队首先采用多尺度训练策略，赋予模型针对不同迭代次数的自适应能力；然后构建“教师-学生”模型架构，借助预训练的高精度模型提供方向指引，确保每次迭代都能准确优化生成路径；最后通过优化离散化迭代路径设计，显著降低无效计算环节。这种分层次优化方法使得模型在极低迭代次数下仍能保持输出稳定性。 实验数据表明，在仅配置1.7亿至17亿参数的轻量级架构下，FS-DFM的表现超越了参数量数倍乃至数十倍的现有模型。在与Dream模型的70亿参数和LLaDA模型的80亿参数进行的对比测试中，该模型在困惑度和熵值两项核心指标上均取得更优结果，其生成的文本不仅语义连贯性更强，并且在处理长距离依赖关系时展现出更出色的逻辑一致性。在需要保持上下文连贯性的长文本生成场景中，FS-DFM尤其显示出其独特的效率优势。 这项研究通过算法层面的范式革新，为语言模型的规模化应用提供了全新的技术路径。其核心价值在于突破了传统模型“以算力换质量”的固有模式，在显著降低计算资源消耗的同时，持续提升生成质量。随着模型轻量化与效率提升的双重突破，该技术有望在实时交互、动态内容生成等对响应速度要求极高的应用场景中发挥关键作用。