DeepSeek技术突破：大语言模型实现图像生成新思路

我们讨论DeepSeek时，很少有人会特意提到多模态能力。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

令人意外的是，10月20日，DeepSeek突然开源了名为DeepSeek-OCR的模型。这显然是一款专注于OCR（光学字符识别）的解决方案，并且在OmniDocBench等权威测试平台上取得了SOTA（业界顶尖）的优异表现。

那么它为何会突然涉足OCR这一领域？答案其实隐藏在当前大语言模型面临的核心挑战中：长上下文处理所带来的算力瓶颈。

这篇论文的核心观点相当精辟：文本信息完全可以通过光学2D映射（即渲染成图像）实现高效压缩，再由VLM（视觉语言模型）从图像中准确解析出原始内容。

简单来说，这种方法将文本内容转换为图像格式，用数量更少的视觉token来传递同等规模的信息量。

对于这一创新思路，大神AndrejKarpathy也深受启发，他认为像素（pixels）或许比纯文本（text）更适合作为LLM的输入方式。

他还详细列举了这种方法的四大优势：

信息压缩：他直接引用DeepSeek-OCR论文的观点，指出这将带来“更短的上下文窗口和更高的处理效率”。

更通用的信息流：输入不再局限于纯文本，还能包含“粗体、彩色文字、任意图像”等丰富元素。

更强的处理方式：图像可以被“双向注意力”（bidirectional attention）轻松处理，这比文本常用的自回归注意力机制“要强大得多”。

删除（输入端的）Tokenizer：这或许是他最为兴奋的一点。他借此机会强烈质疑了现有分词器这个长期存在的技术痛点。