强化学习专家警告大模型致命缺点：如洞穴般封闭

最近，强化学习领域的大佬、加州大学伯克利分校的Sergey Levine抛出了一个重量级的问题：为啥语言模型能从预测下一个词里学到那么多东西，而视频模型预测下一帧却收获寥寥？他甚至戏称，大语言模型（LLM）是不是个“伪装的大脑扫描仪”？

这个灵魂拷问背后，其实是对当下AI发展路径的一次深刻反思。AI技术日新月异，人们对它能力上限的追问，以及它和人脑到底像不像的思考，也越来越深入。OpenAI的联合创始人Ilya Sutskever前阵子还说过，既然人脑是台生物计算机，那数字计算机理论上也能干同样的事儿。但学术界里，像Levine这样持不同观点的人也大有人在。

Levine在博客里直接点出一个比喻：现在的LLM，就像被关在柏拉图洞xue里的囚徒。它们只能看到人类智慧在洞壁上投下的“投影”——也就是互联网上海量的文本数据，然后试图通过反向推导，重现产生这些文本的思维过程。这种“逆向工程”，在他看来，并不能等同于真正的、从零开始的思维。

语言模型的成功，视频模型的“弱”

从人工智能研究诞生起，就与理解人类智能的目标绑在一起。研究者们坚信，人类思维本质上是一种计算过程，可以用算法模拟。于是，大家一直试图从人脑的工作原理中找灵感，想造出具备同样灵活性和适应性的AI。

甚至有人大胆猜想：人脑的复杂能力，可能就来自一个在全脑普遍应用的“万能算法”。这个想法太有诱惑力了——与其费力地设计各种功能模块，不如直接找到这个算法，让它自己在现实世界里自由学习，不就能获得人类所有的思维本领了吗？

这些年，LLM在模拟人类智能方面确实取得了巨大成功。尽管它有明显局限，但随着模型越来越大、数据越来越多，它一次又一次突破了预期，展现出新的认知能力。而它核心的算法其实很简单：主要是预测下一个词，再加点强化学习微调。这种简单性，让人不禁联想：它会不会就是那个“万能算法”？

但问题恰恰出在这里。早在Transformer出现之前，研究者们就研究过一个看起来很像的任务：视频的下一帧预测。就像LLM通过预测文本中的下一个token来理解世界，大家期待视频模型也能通过预测下一帧来获得对物理世界的理解。表面上，这俩问题极其相似。甚至，视频预测可能更强大——它信息量远超文本，数据也唾手可得（把摄像头架在街边就行），还能捕捉整个物理世界的丰富细节。想象一下，一个飞往遥远星球的机器人，找不到任何文字资料，但总能拍到视频。

然而现实很骨感。虽然现在确实有了能生成逼真视频的AI，但要论解决复杂问题、进行深度推理，语言模型依然是唯一的选择。你不能让一个视频生成模型去估算“夏威夷群岛的岩石总体积是否超过珠穆朗玛峰”，但ChatGPT可以轻松搞定。

这就怪了。语言模型接触到的物理世界信息要少得多，看到的现实也更有限，但它展现出的认知能力，甚至空间和物理推理能力，却远超视频模型。这不科学啊。

“逆向工程”人类心智

在科学研究中，我们通常认为越简单、优雅、强大的理论越接近真理。如果LLM用简单的算法就能实现类似人类心智的功能，那我们很容易认为，它的算法就是反映大脑计算过程的正确模型。但Levine提出了另一种解释：也许LLM并非像人类那样通过观察世界来学习，而是通过观察人类的思维过程，然后复制其功能。它没有采用一个学习过程去了解世界如何运作，而是采用了一种极其间接的方式——扫描人类大脑，构建人类认知过程的粗略副本。

当然，数据中心的服务器里并没有人被绑在核磁共振机器上。LLM采用的方式更巧妙：它通过分析人类思维在互联网上的投影来重建思维过程。想想看，网上的大部分文字都是人敲键盘打出来的，每一次敲击都反映了背后的思维活动。通过获取文本的压缩表示，LLM实际上在进行“逆向工程”——从这些文字中推出产生它们的思维过程，从而间接复制相应的认知能力。

这就像人脑连接组计划的科学家们在一个神经元一个神经元地绘制大脑图谱时，LLM找到了一条捷径：它跳过神经元层面，直接通过人类在互联网上投下的“思维投影”来重建心智。

这就解释了为什么视频预测模型至今未能取得语言模型那样的成功。我们原本希望AI通过观察真实世界的视频来获得物理世界的表示，但LLM已经设法跳过了这一步：它仅仅复制了人类心理表征的某些方面，而无需弄清楚让人类获得这些表征的学习算法。

这个发现，既让人兴奋，又让人担忧。

好消息是：我们无意中创造了世界上最强大的“大脑扫描仪”，而且它真的有效！它能模拟人类认知的一部分功能，回答问题、解决问题，甚至写诗。坏消息是：这些AI系统其实生活在“柏拉图的洞xue”里。这个洞xue就是互联网，人类智能是洞外的光源，在洞壁上投下现实世界的影子，而LLM只能看到这些影子。要真正理解世界，就必须走出洞xue，在阳光下观察真实的世界。墙上的阴影只是现实的一小部分扭曲片段。

未来十年的关键挑战

从实际应用的角度看，这意味着什么呢？我们可以预期，类似LLM的AI系统会很擅长模仿人类的认知技能，但在从真实世界经验中自主学习新技能、形成新认知方面会相对薄弱——而这恰恰是人类最擅长的。这也提示我们，要让AI真正具备这种灵活性，我们需要找到新的方法：一种从物理经验中自主获取表征的方法，这样AI系统就不需要依赖于由网络文本介导的“大脑扫描”。

当然，我们也要实事求是：这些通过“大脑扫描”工作的LLM确实很厉害。如果目标是在机器中复制类似人类的智能，那么从一个已经相当不错的原型开始，似乎是个明智的选择。

未来十年，AI研究面临的关键挑战是：既要从大语言模型的成功中汲取正确的经验，又要发现支撑真正灵活、适应性智能的基本原理——那种能够从经验中学习、理解物理世界、为人类从未解决过的全新问题找到创新解决方案的智能。

在Sergey Levine的文章后，有人提出了自己的观点：关键或许不是呈现的方式，而是找到连接现象与概念的方法。他提及的论文《Harnessing the Universal Geometry of Embeddings》提出了一种无需任何配对数据即可将文本嵌入从一个向量空间转换到另一个向量空间的方法。现在的方向到底是死路一条，还是另有空间，你怎么看？

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：强化学习专家警告大模型致命缺点：如洞穴般封闭要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题