DeepSeek新论文解读:全新mHC架构,作者梁文锋现身新年首刊
1月1日,IT之家传来消息:今日下午,DeepSeek团队发布了一篇重磅论文,提出了一种名为mHC(流形约束超连接)的全新神经网络架构。根据论文介绍,这项研究旨在解决传统超连接技术在大规模模型训练中普遍存在的不稳定性问题,同时又能充分保留其带来的显著性能提升。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
该论文的第一作者共有三位,分别是解振达(Zhenda Xie)、韦毅轩(Yixuan Wei)以及曹焕奇。值得一提的是,DeepSeek创始人兼CEO梁文锋亦位列作者名单之中。

IT之家摘录了论文摘要的核心内容,大意如下:
近年来,以超连接(HC)为代表的研究通过扩展残差宽度和多样化连接模式,极大地拓展了过去十年间建立的、无处不在的残差连接范式。尽管这种多样化带来了显著的性能提升,但它也从根本上损害了残差连接固有的恒等映射属性,从而导致了严重的训练不稳定性和受限的可扩展性,同时还会产生显著的内存访问开销。为了应对这些挑战,我们提出了流形约束超连接(mHC)。这是一个通用框架,能够将HC的残差连接空间投影到特定的流形上,以恢复恒等映射属性,同时结合严格的基础设施优化以确保训练效率。实验结果表明,mHC对于大规模训练是行之有效的,能够带来切实的性能改进和卓越的可扩展性。我们预计,mHC作为HC的一种灵活且实用的扩展,将有助于更深入地理解拓扑架构设计,并为基础模型的演进指明富有希望的方向。
论文相关链接
Hugging Face:https://huggingface.co/papers/2512.24880Arxiv:https://arxiv.org/abs/2512.24880
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
科学家锁定45颗系外行星或可孕育生命
IT之家 3 月 29 日消息,在新电影《挽救计划》中,人类派遣一艘星际飞船前往另一个恒星系统 —— 鲸鱼座 τ 星,孤注一掷地试图拯救地球,抵御外星威胁。最终人们发现,拯救地球的关键,是一颗围绕该
比亚2025销量预测:国内承压,百万海外市场成关键
3月27日,比亚迪发布2025年年度报告。一方面,比亚迪的规模依然在创纪录,全年总营收达到8039 65亿元,总销量460 24万辆;其中,卖车(含电池、储能)占收入的80 7%,手机零部件代工占1
记者手记:在绿能一线看双向奔赴的价值与进程
承 洲 这次跨越大半个中国的采访,从西北戈壁的光伏场站,到八桂大地的锂电池车间,再到江南水乡的制造工厂,一路循着绿能发展的脉络前行。最触动人心的,不是亮眼的产能、减碳数据,而是在产业浪潮中,那些青年
我们捍卫什么:影石Insta360与DJI大疆背后的行业角力
文 | 财经无忌 申屠3月23日,大疆在深圳中院正式起诉影石,涉及6项专利,诉求是:这些专利的申请权应归大疆所有。影石创始人刘靖康当天在微博作出回应,第一句是—— "GoPro和大疆起诉我们,完全能理
流量退潮后,品牌如何沉淀用户共识?
作者I山上 王彬流量越来越多,品牌却越来越难被记住。这就是所谓的 "流量粉尘化 "。一轮一轮的品牌传播都有流量,但一轮一轮都没印象。品牌们都是流量的过客,挥一挥衣袖,不带走一个用户。碎片化时代带来的不只
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

