麻省理工研究：生成式AI缺乏对世界的连贯理解

当前的大语言模型能够创作诗歌、编写代码，甚至提供几近完美的导航路径——乍看之下，它们似乎真正“领会”了世界的运作机制。然而，最新研究却给这种认知浇了一盆冷水：这种“理解”很可能只是一种精心编织的错觉。

根据《麻省理工科技评论》11月5日的报道，麻省理工学院信息与决策系统实验室（LIDS）的研究员阿什·兰巴昌（Ashesh Rambachan）表示，人们曾期望大模型在语言任务上的卓越表现能够自然迁移至其他科学领域，例如辅助科学发现。然而，这一期望的前提是——模型必须对其所处的环境建立起连贯的认知体系。而这项研究恰恰暴露了这一前提的缺失。

具体而言，研究团队测试了一款广受欢迎的生成式AI模型在纽约市导航任务中的表现。结果令人惊叹：该模型能够提供接近完美的逐步骤导航指令。但深入分析后发现，它并未真正构建出一张纽约市真实且精确的地图。

如何验证这一发现？研究人员设计了一个巧妙的实验：他们封闭了部分街道，并引入了绕行路线。此时，模型的表现立即急剧下降。仅关闭1%的街道，模型原本接近100%的准确率便骤降至67%。这一巨大落差足以揭示真相——它并非真正理解道路网络结构，而只是在训练数据模式中进行“机械记忆”。

更有趣的是，当研究人员尝试还原模型内部隐式生成的纽约地图时，呈现的却是一个“幻想中的纽约”。地图上遍布大量根本不存在的街道，这些街道在网格之间杂乱扭曲地连接，甚至跨越了相隔数个街区的交叉口。数百条街道交错重叠，随机出现跨街桥梁，或者以完全不可能的角度相互交叉。

这为实际应用敲响了警钟：一个在特定场景下表现优异的模型，可能仅仅是恰巧匹配了训练数据的分布。一旦环境或任务发生轻微变化，其脆弱性便会立刻显现。换言之，它并未建立起对世界的一致理解，只是在执行“模式补全”。

研究重点聚焦于名为“Transformer”的生成式AI模型——这正是GPT-4等大语言模型的底层架构。Transformer通过海量语言文本的训练，学习预测序列中的下一个标记（例如句子中的下一个词）。然而，这项研究表明，这种基于统计的预测能力，并不能等同于建立对真实世界的因果模型。

相关研究论文如下：

• Evaluating the World Model Implicit in a Generative Model

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：麻省理工研究：生成式AI缺乏对世界的连贯理解要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题