首页
科技
DeepSeek技术突破:大语言模型实现图像生成新思路

DeepSeek技术突破:大语言模型实现图像生成新思路

热心网友
转载
2025-10-21
来源:https://36kr.com/p/3518889048021894

我们讨论DeepSeek时,很少有人会特意提到多模态能力。

令人意外的是,10月20日,DeepSeek突然开源了名为DeepSeek-OCR的模型。这显然是一款专注于OCR(光学字符识别)的解决方案,并且在OmniDocBench等权威测试平台上取得了SOTA(业界顶尖)的优异表现。

那么它为何会突然涉足OCR这一领域?答案其实隐藏在当前大语言模型面临的核心挑战中:长上下文处理所带来的算力瓶颈。

这篇论文的核心观点相当精辟:文本信息完全可以通过光学2D映射(即渲染成图像)实现高效压缩,再由VLM(视觉语言模型)从图像中准确解析出原始内容。

简单来说,这种方法将文本内容转换为图像格式,用数量更少的视觉token来传递同等规模的信息量。

对于这一创新思路,大神AndrejKarpathy也深受启发,他认为像素(pixels)或许比纯文本(text)更适合作为LLM的输入方式。

他还详细列举了这种方法的四大优势:

信息压缩:他直接引用DeepSeek-OCR论文的观点,指出这将带来“更短的上下文窗口和更高的处理效率”。

更通用的信息流:输入不再局限于纯文本,还能包含“粗体、彩色文字、任意图像”等丰富元素。

更强的处理方式:图像可以被“双向注意力”(bidirectional attention)轻松处理,这比文本常用的自回归注意力机制“要强大得多”。

删除(输入端的)Tokenizer:这或许是他最为兴奋的一点。他借此机会强烈质疑了现有分词器这个长期存在的技术痛点。

免责声明

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章

忍者龙剑传4获媒体83分盛赞,革新战斗铸就系列新巅峰

由Team Ninja与白金工作室联合打造的忍者龙剑传4已于今日正式推出。随着游戏解禁,各大媒体评分陆续公布,M站综合得分为83分,IGN与GameSpot均给出8分评价。国际知名游戏媒体Games

2025-10-21.

寒武纪募资39.85亿加码AI芯片,大模型计算平台落地加速

中科寒武纪科技股份有限公司近日发布公告,宣布2025年度向特定对象发行股票已完成股份登记。本次发行股份数量为333 49万股,已于10月16日在中国证券登记结算有限责任公司上海分公司完成登记。发行价

2025-10-21.

小米汽车逆势增长:SU7热销背后的用户共建技术生态

在新能源汽车市场硝烟弥漫的当下,小米汽车正以黑马之姿打破行业格局。尽管网络舆论场中争议不断,但SU7车型上市即售罄的市场表现,以及YU7车型未发先火的预售态势,让这家跨界造车企业成为行业焦点。其 "技

2025-10-21.

真我GT8 Pro影像首测:四年打磨GR系统有何突破?

10月21日消息,真我宣布真我携手理光GR从光学、交互、算法、影调进行全链路深度定制,首发理光GR影像系统,为年轻人打造表达个性的街拍神器。这次真我GT8 Pro首发理光GR防眩光主摄,通过理光GR

2025-10-21.

《宇宙机器人》新作公开:150位PlayStation角色全集结

在最近的PlayStation发布会上,《宇宙机器人》的一款全新作品意外亮相,引发玩家关注。据消息显示,这款游戏将汇集多达150个来自PlayStation的知名角色,它们将以小巧可爱的机器人形象作

2025-10-21.

热门教程

更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程

最新下载

更多
开心水族箱正
开心水族箱正 休闲益智 2025-10-22更新
查看
流浪者游戏
流浪者游戏 休闲益智 2025-10-22更新
查看
奥奇传说应用宝
奥奇传说应用宝 角色扮演 2025-10-22更新
查看
奇境小镇游戏
奇境小镇游戏 角色扮演 2025-10-22更新
查看
奥奇传说手游
奥奇传说手游 角色扮演 2025-10-22更新
查看
美甲小屋
美甲小屋 模拟经营 2025-10-22更新
查看
奇境小镇九游
奇境小镇九游 角色扮演 2025-10-22更新
查看
奥奇传说小米渠道服
奥奇传说小米渠道服 角色扮演 2025-10-22更新
查看
奥奇传说小米渠道服
奥奇传说小米渠道服 角色扮演 2025-10-22更新
查看
奥奇传说九游
奥奇传说九游 角色扮演 2025-10-22更新
查看