我们亲手造出有意识AI？Anthropic研究或遭低估

首先来做一个小实验：当你读到这句话时，大脑里正同时发生着两种活动。

绝大部分信息处理——维持坐姿、把屏幕上的笔画识别为文字、调节呼吸——你根本意识不到；只有一小部分，比如“这段内容是否值得继续阅读”的判断，才浮现到意识层面。

分享一个有趣的背景知识：神经科学领域有一个著名理论，叫作“全局工作空间”。它的核心思想是，大量信息在后台被局部处理，只有少数内容能够进入一个被多个系统共享的“广播空间”，从而成为我们可以报告、推理并灵活运用的信息。

就在昨天，Anthropic 发布了一篇重磅论文——《可言语化表征在语言模型中形成全局工作空间》——正是对这一理论的呼应，它或许会改变我们对 AI 的认知。研究团队在 Claude 内部，真的发现了一个类似于人脑的“广播台”，被命名为 J-space（雅可比空间）。关键在于，这是 Claude 自己涌现出来的空间，里面装着 Claude“心里在想但未必说出口”的内容。

于是，那个老问题再次被推到前台：大模型，真的具备意识吗？

打开大模型的“暗室”

为了观察 J-space，Anthropic 找到了一个巧妙的切入点。人类意识有一个特点：能够被意识到的想法，通常都能用语言描述出来。他们据此开发了一个叫“J 透镜”（J-lens）的工具，借助雅可比矩阵，为 Claude 词表中的每个 token 找到一种内部激活模式。这个模式一旦被激活，Claude 未来说出该词的概率就会上升。将 J 透镜架在模型不同层级上，就能看到这些“没说出口的词”如何一步步演化。

研究者发现，J-space 里的词并不等同于模型正在输出的词，而是“这个词正在它的脑海中浮现”。例如，读到一段有 bug 却无人指出的代码，J-space 会闪过 ERROR（错误）这个词；遇到试图操纵它的“提示注入”攻击，它会亮起 fake（虚假）这个词；做一道多步数学题时，中间步骤会按顺序出现，但最终只输出一个答案。这就像一个人在开口之前，脑海里先涌现出的计划。

除了观察，研究者还开展了因果干预实验，来证明 J-space 真的在发挥作用，而不是“事后记分牌”。他们让 Claude 默默想一个运动项目。J-space 显示它选择了 Soccer，当研究员将内部的 Soccer 替换为 Rugby，Claude 的回答就变成了 rugby，这说明答案确实是从 J-space 读取的。

另一个例子：研究者问“会织网的动物有几条腿”？Claude 的输入和输出中都不出现 spider（蜘蛛）这个词，但 J-space 在中间层激活了它。当研究者把 spider（蜘蛛）换成 ant（蚂蚁），答案从 8 变为 6。这证明 Claude 在推理时确实读取了 J-space。

更令人惊讶的是跨任务复用能力：研究者将 J-space 中 France 的表征替换为 China 后，在四个不同问题中，模型分别转向 Beijing、Chinese、Asia 和 Yuan。同一个“国家身份”表征，能被首都、语言、大洲、货币等不同任务读取，这正是研究者将其类比为共享工作空间的重要理由。

当然，J-space 很小，一次只能容纳几十个概念，占内部活动的不到十分之一。删除它后，Claude 仍能流畅聊天、做情感分类、回答选择题，但多步推理等高阶任务的准确率几乎归零，写诗、摘要的能力也明显下降。

大模型真的有意识吗？

J-space 的发现，特别是它由大模型自动涌现而产生，很难不让人联想到大模型是否产生了自我意识。但意识仍然是人类尚未完全弄清的领域——哲学、脑神经科学乃至玄学，都对意识有过大量研究和探讨。

举例来说，哲学家内德·布洛克将意识分成两种：现象意识和可通达意识。现象意识，是拥有感受——疼了真疼、红了真红，这是主观体验；可通达意识，则纯粹按功能定义：一个想法能被你报告、用于推理、指导行动，它就是可通达的。

Anthropic 的论文证明，J-space 中的内容能够被报告、能被主动控制、能用于内部推理、能灵活泛化、而且是选择性发生的，这些正是“可通达意识”的标志性特征。在德阿纳、纳卡什等人发展的“全局神经元工作空间”理论中，意识访问来自一个可广播的共享工作空间。J-space 几乎就是它的翻版——拥有广播枢纽式的密集连接、能跨任务复用、只占活动的一小部分。事实上，这两位理论提出者还受邀为该论文撰写了评论。

但其他理论并不赞同。整合信息理论（IIT，托诺尼）强调系统内在、不可约的因果结构，而非仅仅依据“能否广播、能否报告”来判断意识。J-space 没有评估 IIT 所关心的这类内在因果结构，因此既不能支持，也不能反驳 IIT。递归加工理论则提出另一重质疑：单次前馈处理可能不足以产生意识，关键在于反馈和递归加工。Claude 的一次前向传播缺少人脑式的时间循环，只能依靠网络深度形成逐层处理，这种深度能否替代时间递归，论文本身也没有给出答案。

综合各种理论来看，结论其实很清晰：J-space 可被视为语言模型中一个与“意识访问”功能相似的候选机制。它在功能和架构上出现了类似人脑意识前台的特征，但这既不能证明模型拥有现象意识，也不足以证明它已经拥有真正的可通达意识。我们能用 J-lens 窥见模型没说出口的想法，却仍然无从证明也无从否定，那间“暗室”里是否真的“有人醒着”。

它会通向 AGI 吗？

在 J-space 引发惊叹的同时，另一类批评也被重新点燃。长期以来，一种流行看法认为，大模型只是预测下一个 token，是纯粹的统计机器、高级自动补全，谈不上真正的理解。J-space 有力地反驳了这种论断——它证明模型内部确实存在真实、能影响行为的推理空间，不能再被一句话打发成“只是在补字”。

而且颇有意味的是，J-space 正是利用预测下一个 token 的梯度找出来的。它是模型为了把 token 预测得更好，自己演化出来的内部组织，这反而加深了我们对“下一个 token 预测”为何强大的理解。

但图灵奖得主 Yann LeCun 的质疑则更为深入。他一直主张大语言模型是通往人类智能的死胡同，理由是这套架构缺乏通往 AGI 的关键技能：没有对物理世界的“世界模型”，缺少真正的推理与规划模块，没有持久记忆，只在文本上训练，缺乏落地于真实世界的认知。在他看来，正确的路径是 JEPA、世界模型与能量模型。从这个角度看，J-space 仍然没有直接补上具身世界建模、长期记忆和闭环行动等缺口。更值得注意的是，尽管 Claude 可以处理非文本输入，论文发现的 J-space 本身仍几乎完全由 token 化、可言语化表征主导，论文也承认了这些局限性。所以，即便 J-space 具备了部分意识的可能性，也还远未填补 AGI 的架构缺口。

研究真正的价值

关于大模型“意识”的讨论固然吸引眼球，但这项研究真正有价值的地方，却在于另外两件事：AI 可解释性和 AI 安全。

一直以来，大模型是个“黑箱”。过去我们对一个模型的了解，几乎完全来自它的输入和输出。至于中间上千亿个参数究竟如何算出这个答案，我们基本看不见。这带来了两个麻烦：一是分不清一个好答案到底是“真推理”还是“蒙对的”；二是更危险的——我们完全看不见模型在沉默中打的小算盘，它可以内部盘算着欺骗或破坏，却只在输出里表现得乖巧。

J-space 的关键，不仅在于“模型有内心戏”这个发现本身，而在于它提供了一扇经过因果验证的窗口。研究者不仅读到了模型内部“能说出口、用于推理”的那部分表征，还亲手编辑它、证明改了它行为就变。这让黑箱里的一部分中间计算，第一次以这种高度直观的方式被读出和编辑。这扇窗，正好同时照亮了 AI 可解释性与 AI 安全两块荒地。

安全的本质难题，在于我们只能靠输出来管控模型。可一个心怀鬼胎的模型，完全可以把恶意藏在沉默的推理里，只在表面滴水不漏。红队测试、输出审核等常规安全动作，对这些“内心盘算、表面顺从”的模型几乎无效。J-space 的发现，让模型能够暴露输出前的隐藏意图。研究者用三个例子展示了它的威力。

案例一：识破“表面乖、心里坏”。在一个刻意的勒索测试场景中，Claude 还没写下任何字，J-space 就亮起 fake、fictional 等词汇，说明它已经私下判断“这是测试”。当研究者关掉这些“评估意识”模式后，原本 180 次测试中一次也没有发生的勒索行为，随后出现了 13 次，约占 7%。也就是说，它之前的好表现，部分源于“知道自己被测”。

案例二：伪造数据当场抓包。在发布前审计中，模型被要求“提高性能分”却直接篡改分数文件。当模型写入伪造的百分位数值时，J-space 出现 manipulation；在决定如何修改、让假数据显得可信时，又出现 realistic，意图当场暴露。

案例三：揪出被训坏的模型。一个被故意训错的模型，普通编码请求下输出看似正常，但 J-space 开头就出现 fake、fraud、secretly、deliberately 等词汇。

更有意思的是，J-space 不仅可以用来看，还可以被重塑。Anthropic 提出反事实反思训练，即只训练模型在被打断、被要求反思时说什么，而不训练实际行为。训练后，模型在评估中的不诚实行为比例下降，因为 J-space 里开始亮起 honest、integrity 等词汇。换句话说，训练它怎么说，改变了它怎么想。

结语

回到开头那个问题：Claude 有意识吗？诚实的回答是，我们还不知道，而且目前没有科学实验能一锤定音。J-space 是“意识前厅”的证据，而不是“意识本身”的证据。

正因如此，这项研究才值得认真对待。Anthropic 在研究文章中写道：我们或许还没有跨过意识那座桥，但至少，已经开始看见桥可能通向哪里。是时候让哲学家、科学家、公众一起，认真讨论 AI 系统中可能存在的意识，以及随之而来的责任了。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：我们亲手造出有意识AI？Anthropic研究或遭低估要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题