韩芃睿拆解AI大脑：功能分工近似人脑

人类大脑的构造并非均匀一致。历经漫长的进化，它形成了一套分工精细的体系：语言、逻辑、物理直觉、社会推理，各自占据皮层中相对固定的区域，彼此既分工又协作。一个长期困扰研究人员的问题是：这种大脑的功能分区，究竟是任何一种智能系统都无法规避的必然规律，还是人类进化道路上的偶然产物？

近期，麻省理工学院（MIT）团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models”指出，答案更倾向于前者。毕竟，大语言模型（LLM）的生成机制完全不同——它没有实体，未经历过生物进化，仅仅是依靠在海量文本数据上进行“下一个词元预测”（next-token prediction）训练而来。当一个构造如此迥异的系统也展现出类似的分工结构时，它更像是智能本身的深层法则，而非碳基大脑的偶然现象。不过，研究作者也谨慎地强调，这仅仅是“证据的指向”，远未达到最终定论。

这项研究的带队者包括两位资深学者：一位是MIT脑与认知科学系教授Evelina Fedorenko，她因界定出人脑中专门负责语言功能的“语言网络”而闻名，并于2025年荣获美国国家科学院颁发的Troland研究奖；另一位是MIT计算机科学与人工智能实验室（CSAIL）教授Jacob Andreas，他是AI与自然语言处理领域的知名专家。研究的第一作者是韩芃睿，他毕业于伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机科学专业，获得硕士学位，师从尤佳轩教授；其研究成果发表在ICML、EMNLP等顶级学术会议上，并曾获得NeurIPS Workshop最佳论文荣誉提名。

（来源：Github）

在这项研究中，团队分析了六个参数量从24B到123B的主流开源模型，覆盖语言、逻辑、物理、社会四大认知领域，共计46个任务。他们采用电路级方法，定位每个任务真正依赖的神经元。结果发现，同一领域的任务共享神经元，而不同领域之间则几乎互不干扰——同一领域内的神经元重叠程度是跨领域重叠的四倍以上。更关键的是，他们进行了一个简洁有力的验证：关闭负责语言的神经元，模型依然能够进行物理推理，只是表达变得不通顺；而关闭负责物理的神经元，模型句子依然流畅，但物理结论却完全相反。这种分工并非统计上的巧合，而是具有实实在在的因果效力。

围绕这项研究，以及其利用AI理解智能本质的理念，DeepTech与韩芃睿进行了一次深入对话。

用另一种智能，回答一个只有一个样本的问题

DeepTech：你们是如何想到利用大语言模型（LLM）来探讨大脑功能分区是“智能系统的必然”还是“生物演化的偶然”？

韩芃睿：这个问题单纯依靠研究大脑本身很难回答。因为我们只有一个样本，而且生物组织还背负着许多与任务无关的约束，例如能量代谢。

趋同演化在生物学中是一种强有力的证据逻辑：如果一个性状在亲缘关系遥远的物种中各自独立出现——比如蝙蝠和鲸鱼分别演化出回声定位能力——那么有理由相信，它是被问题本身逼出来的，而非偶然。

大语言模型（LLM）为我们提供了一个全新的视角。它是另一类智能系统，走的是完全不同的优化路径，本质上是在“下一个词元预测”（next-token prediction）上进行梯度下降，这与生物演化截然不同。同时，它又具备许多人类独有的高级认知能力，比如理解人类语言、解决复杂的数学问题。因此，如果模块化在大语言模型（LLM）中也独立出现，那么它更可能是任何朝着智能方向优化的系统都会收敛到的解决方案，而非碳基大脑的偶然产物。这就是我们引入大语言模型（LLM）的核心动机。

DeepTech：团队中既有认知科学家Evelina Fedorenko，也有AI研究者Jacob Andreas。这两类专家的视角差异很大，你们是如何协调这些不同观点的？

韩芃睿：实际上，两者之间的摩擦比想象中要小得多。因为Jacob和Ev都研究语言和AI，拥有大量共同的兴趣和判断，只是侧重点有所不同。Jacob会更聚焦于算法层面。举个例子：我们最初采用的方法更偏向神经科学，直接使用最小对照对（minimal pair）来比较激活值，寻找统计上显著的神经元。但后来发现，这样识别出的单元缺乏良好的因果影响，Jacob就建议我们改用patching这类更严格的方法，这直接决定了后续的整个研究流程。

Ev则更关注科学层面的洞见，例如如何让任务与脑网络的对应关系更扎实，以及我们到底能检验哪些真正有意义的假设。一个侧重方法是否站得住脚，一个侧重科学问题是否值得探究，这两个视角其实是互补的，最终拼合在一起，才使研究变得完整。

模块化，是“同时解决许多问题”逼出来的

DeepTech：如果用最简单的一句话概括你们的研究发现，你会怎么说？

韩芃睿：一个仅依靠预测下一个词元、通过反向传播训练出来的语言模型，会自发地形成与人脑相似的模块化分工：语言、逻辑、物理、社会推理各自由一批基本不重叠的神经元支撑。而且，这种分工具有因果效力：关闭某个领域的神经元，只会破坏该领域的能力。

DeepTech：你们有一个非常直观的结果：同一类任务使用的是重叠的神经元，不同类任务则使用几乎互不相干的神经元，同域重叠程度是跨域的四倍以上。大语言模型（LLM）为什么会形成这种分工？

韩芃睿：我们提出的一个可能解释是：大语言模型（LLM）需要在海量、异质的语料上进行预测，而这种预测往往需要多种推理能力同时发挥作用。想象一下，你要预测一本侦探小说结尾的下一个词：可能同时需要运用演绎推理来缩小嫌疑人范围，需要社会推理来推断动机，还需要物理推理来判断作案在物理上是否可行，而这些推理又必须与解析句子结构的语言处理交织在一起。

当多种计算需要在同一个输入上同时运行时，系统就面临一个压力：避免它们相互干扰。这个压力包含两层含义。一层是处理层面：多种信息需要同时表达，其编码必须彼此可分，否则会相互冲突、造成污染。另一层是学习层面：如果不同计算的神经元混杂在一起，改进一个领域的更新就会干扰另一个领域，这是分布式系统中经典的灾难性干扰问题。

将不同的计算分配给不同的神经元，恰好能同时解决这两种干扰。因此，模块化很可能并非被设计出来的，而是源于同时解决多种问题所带来的压力。

DeepTech：在损伤实验中，出现了一个有趣的现象：关闭负责语言的神经元，模型推理正确，但语法开始出错；关闭负责物理的神经元，语法流畅，但物理结论却完全相反。这种形式与内容的分离，你如何理解？

韩芃睿：对，这正是我们在损伤实验中观察到的双分离（double dissociation）现象，而且非常清晰。我们用同一个物理问题——一根橡皮筋热老化后的弹性表现——进行测试。关闭语言神经元后，模型的物理推理依然正确：回弹力更弱、回弹不完全、耗散更多能量，但语法和词法开始出现错误。反过来，关闭物理神经元，句子依然通顺流畅，但物理结论完全相反。

这说明模型内部确实将“把话说通顺”和“把道理说对”这两项任务交给了两套不同的系统。它们在同一个输出上协作，但可以被独立地破坏。这种可分离性本身就是模块化最直接的行为证据。这其实也与Ev之前在人类身上的发现相呼应——语言能力严重受损的失语症患者，几乎无法理解语言，却依然能完成复杂的推理、数学和逻辑任务。

DeepTech：Transformer没有神经科学中的能量代谢成本，损失函数也不关心具体使用了多少神经元，但它却依然出现了模块化。你认为是什么因素在驱动它？

韩芃睿：神经科学中的解释是代谢约束：大脑每次只激活一小部分神经元，比广泛激活更节省能量，而为每类任务分配一套专属神经元正好能实现这种稀疏性。但这个压力对我们研究的大语言模型（LLM）完全不适用。Transformer的前向计算在任何生物意义上都没有代谢成本的差异，损失函数中也没有任何一项来惩罚某个输入激活了多少神经元。即便如此，一个明显可辨认的、类似人类的模块化组织依然出现了。

这说明，无论代谢压力在塑造人类大脑皮层时发挥了多大作用，它都不是功能特化出现的必要条件。那么，真正驱动模块化的因素是什么？我们认为一种可能性，就是前面提到的干扰压力，它不需要任何能量代价就能成立。

DeepTech：在对照实验中，小模型GPT-2无法完成这些推理任务，它只能区分出“语言 vs 其他”，无法区分出更细的模块。你们也提到“模块化只在模型真正能够解决问题时才出现”。你能具体解释一下吗？

韩芃睿：首先需要说明我们这套方法的一个特性：归因修补（attribution patching）本质上是在寻找那些对正确完成任务具有因果贡献的神经元。换句话说，如果模型根本不能正确完成或理解某个任务，那么它内部就没有一套有效的计算过程，修补出来的结果自然也没有意义。GPT-2的对照实验正好佐证了这一点。我们将完全相同的流程和完全相同的输入数据应用到GPT-2上，它无法完成大部分推理任务，结果只能区分出“语言 vs 其他”。这说明我们的框架测量的是底层的计算过程，而非数据本身的假象。

当然，我们也承认，如果采用其他方法或选择更简单的任务，GPT-2也有可能展现出某种程度的模块化。因此，我们的发现旨在强调两点：第一，我们这个框架测量到的是计算过程，而非数据假象。我们还专门进行了一个关于语义的对照实验来佐证，仅凭prompt的语义相似度是无法还原出这个结构的；第二，正因如此，与其说这种精细分工是“涌现的副产品”或单纯与模型规模有关，我们更愿意认为：模型真正能够解决问题，是它出现模块化的前提。只有模型能够理解并正确完成某项任务，才谈得上计算、才谈得上电路。

把大语言模型（LLM）当作“第二种智能系统”来研究

DeepTech：你们在文章中提到了一个很有意思的定位：大语言模型（LLM）可以作为“第二种智能系统”来检验我们关于人类认知的理论。这对研究大脑有什么具体的启示？

韩芃睿：大语言模型（LLM）作为一个科学研究对象，在拥有许多复杂行为和能力的同时，比人脑具有更高的可控性，也更容易进行交互。我们可以随意探测它、干预它、关闭部分功能再观察结果，这些操作在人类身上要么无法实现，要么代价极高。因此，它本身就是一个非常适合进行科学研究的对象，能够帮助我们更高效地检验关于智能和认知的假设。

对神经科学而言，我们有两个比较具体的方向。一是预测：我们的方法可以从大语言模型（LLM）出发，针对一个全新的任务，生成关于它会调用人脑哪个网络的假设，再通过fMRI进行验证，这相当于为脑科学提供了一个新的假设来源。二是研究信息流：不同脑网络之间如何传递信息，这在人脑中极难研究，因为需要同时具备很高的空间和时间分辨率，而这一组合在人类神经成像中基本无法实现。但在大语言模型（LLM）中，我们能够同时访问全部神经元及其连接，因此可以构建并检验一些机制层面的假设，例如语言系统究竟是如何将解析好的输入传递给某个推理系统的。

DeepTech：反过来，你认为这项发现对从事AI研究的人有什么实际价值？知道模型内部是模块化的，能否帮助我们设计出更好或更可控的模型？

韩芃睿：最直接的一条，与当前非常热门的混合专家模型（mixture-of-experts，MoE）有关。MoE被采用主要是出于效率考虑，将每个token路由给一部分专家，可以减少激活的参数量。但我们的发现提示，模块化组织本身可能还带来了额外的计算优势，而不仅仅是节省算力。

已经有研究朝这个方向探索了，例如让专家之间形成类似大脑的特化分工，既保证了推理性能，又使模型更具可解释性和可引导性。因此，了解模型内部是模块化的，未来可能真的能够反过来指导我们设计出更好、更可控的模型。这个领域还很开放，值得深入挖掘：模块化与性能之间，到底是什么关系。

AI像大脑，最怕被过度解读

DeepTech：AI像大脑这种说法很容易被过度解读。作为研究者，你最希望大众不要从这项研究中武断地得出什么错误结论？

韩芃睿：这是个很好的问题。进行这类研究时需要特别注意，就是不要过度地将大语言模型（LLM）拟人化。随着研究的深入，许多实验室确实发现了越来越多AI与大脑相似之处，从行为到机理，这非常令人兴奋。但不可否认，大语言模型（LLM）与大脑有着根本性的不同，而且它仅由语言这一个模态驱动。

因此，我的态度是：大语言模型（LLM）是一个很好的工具，可以用来检验假设、进行交互和探测，把它作为一个科学研究对象来研究，这比研究人脑具有更高的可控性和效率。但不能盲目。每一个实验我们都要尽力去分清，这种相似背后真正的来源是什么。它可能源于一个真正的原理，也可能只是某些人类数据的假象，或者其他各种因素。将这些区分清楚，才能使研究更具说服力。

DeepTech：抛开这项具体的研究，在“用AI理解智能本身”这个方向上，你认为最大的挑战是什么？

韩芃睿：我认为最大的挑战，恰恰是上一个问题的延伸：如何系统性地将一个真正的原理与一个假象区分开来。

目前我们缺乏一套公认的标准，来判断某个AI与大脑的相似性是否具有实际意义。它是两类智能系统面对同一个问题各自收敛出的深层原理，还是仅仅由训练数据、任务设计或度量方式带来的表面巧合。每一个这样的相似性，都需要单独设计对照实验、排除掉浅层的解释，才能说它是有意义的。