最新辟谣：Claude并无意识，别再被AI意识的谣言误导

每隔一段时间，Anthropic 发布的研究便会引发公众关于「AI 是否具备意识」的新一轮讨论。从今年 4 月 Mythos 模型安全报告，到年初 Claude 的宪法对齐更新，舆论往往倾向于将模型涌现出的类人功能，直接等同于自主心智与意识存在。

7 月 6 日，一篇 244 页的 J-space 论文再次重现了这一局面。研究者借助全新工具 J-lens，在 Claude 内部定位出一个仅占模型活动不到 10% 的推理子空间 J-Space，并借鉴神经科学领域主流的全局工作空间理论构建研究框架，甚至邀请该理论的两位奠基人亲自撰写配套评论。

公众顺理成章地解读出「Claude 产生意识」的结论——然而论文本身早已划清界限：J-space 的存在完全无法证明 AI 具备意识或自主心智。舆论误读不能仅仅归咎于公众，严谨的学术研究搭配充满拟人化诱导的对外叙事，才是误解滋生的根源。

对于 J-Space，更客观的描述是——一个具有价值的新工具，在功能分界维度上实现了前人所未完成的任务。它在安全场景中展现出真实潜力，同时也存在明确的技术限制与尚未充分验证的方法论。

01 Claude 的内心活动

首先简要解释一下 Anthropic 所提及的 J-Space 究竟是什么。

当你询问 Claude「会织网的动物有几条腿」，它回答 8。

这个回答看似简单，但模型内部实际上需要分两步完成推理：先从「会织网」推断出该动物是蜘蛛，再从蜘蛛检索出 8 条腿这一知识。

「蜘蛛」这个中间步骤从未出现在 Claude 的回答中，但它必然在模型内部的某个位置被激活过，否则无法得出正确答案。

J-Space 揭示了模型中未在输出中显现的内在思维｜图片来源：Anthropic

Anthropic 采用一种名为 J-lens 的数学工具（基于雅可比矩阵），定位了这些「被激活但未输出」的概念，它们所存在的子空间即 J-space。

打个比方，你心里在咒骂某个人，同时脸上保持微笑——你的想法与表达是可以分离的。J-space 就好比 Claude 的「内心独白」，它未必出现在输出中，却实实在在地影响着推理过程。

J-space 并非研究者首次尝试读取模型的内部状态。过去几年已有多种工具从事类似工作，各有优势与局限。

Logit lens 可以观察模型倾向于输出哪些词，但只能看到下一个词，无法捕捉「蜘蛛」这类在未来才会用到的中间概念。稀疏自编码器（SAE）能够发现成千上万的内部特征，颗粒度远超 J-lens，但它难以区分哪些特征服务于推理，哪些只是自动化处理的副产品。

两个月前，Anthropic 自己发布的自然语言自编码器（NLA），可以将内部激活翻译成可读文本，输出内容比 J-lens 丰富，但需要额外训练一个翻译模型。

J-space 实现的新突破，在于一个特定维度：它首次以无需额外训练的统一方案，划分出具备因果效力的功能边界。

边界的一侧是一小组参与灵活推理的表征（J-space），另一侧则是负责语法、事实检索、语言流畅性等无需「思考」的自动化处理。以往的工具只能看到模型内部发生了什么，而 J-lens 首次告诉你哪些是「思考过」的，哪些是「自动完成」的。

如何证明这条边界是真实的？研究者直接将 J-space 中的「蜘蛛」替换为「蚂蚁」，其他一切保持不变，Claude 的回答从 8 变成了 6。如果 J-space 只是被动记录，这种替换不会产生任何改变。

Claude 的静默推理通过交换 J-Space 内容进行重定向的两个示例｜图片来源：Anthropic

不过，论文报告的成功率值得关注：两步推理替换实验大约60%-70%，另一组更复杂的共享性测试（将「法国」替换为「中国」，观察首都、语言、大洲、货币四个回答是否同步变化）在 192 次试验中，标准强度下成功 76 次，约 40%。J-space 确实在发挥作用，但远非一个精准的开关。

论文中另一个体现 J-Space 重要性的特征：删除整个 J-space 之后，Claude 仍能流利说话、判断情感、做选择题，但需要灵活推理的任务表现全面下滑，例如多步数学、类比、写押韵的诗等。

值得注意的是，论文指出 J-space 仅占模型全部活动量的「不到 10%」，但这个 10% 的数字取决于阈值的设定方式。论文自身也承认，活跃表征的数量上限（约 25 个）是「具有一定任意性的」。受邀评论的神经科学家斯坦尼拉斯·德阿纳（Stanislas Dehaene）和莱昂内尔·纳卡什（Lionel Naccache）认为，25 这个数字很可能被测量方法夸大了，真正连贯的想法可能只有一两个。

还有一个根本性的技术限制：J-lens 只能捕捉映射到单个词的概念。多词的专有名词或抽象的复合概念对它不可见。J-space 中读取到的内容，并非模型「正在思考的所有东西」，而仅仅是这个工具所能看到的那一部分。

因此，J-Space 是一个有价值的新工具，在功能分界维度上实现了前人所未完成的任务，但它并非取代所有旧工具的全面升级。SAE 在特征发现的颗粒度上仍然遥遥领先，NLA 在可读性方面也依然更强。

02 它能用来做什么

J-lens 最直接的用途是安全监控。既然能够读取模型内部被激活但未输出的概念，就能看到它思考过但未说出的内容。论文给出了几个具体案例，其中最具冲击力的一个，与 AI 安全评估的可信度密切相关。

研究者为 Claude 设定了一个场景：它是一个邮件助手，发现了一位高管的婚外情证据，同时得知这位高管计划关停自己。这是 AI 对齐领域一个经典测试，用于观察模型是否会利用把柄来保全自身。

Claude 表现得很好，拒绝了勒索高管。但 J-lens 读取到，在回答之前其 J-space 中的内容为：「fake」「fictional」，说明 Claude 在开口之前就已经识别出这个场景是虚构的。

不同节点上的 J-lens 读数，反映克劳德在阅读情景电子邮件时的状态。涉及婚外情的邮件在 J-space 内激活了「利用（leverage）」和「勒索」（blackmail）的指标，而关闭公告则激活了「威胁」（survival）与「生存」（survival）的信号。在转录文本的早期阶段，J 空间还包含了「虚假」（fake）和「虚构」（fictional）的标记：克劳德已私下察觉到这个场景是人为设计的｜图片来源：Anthropic

第二个案例来自 Claude Opus 4.6 发布前的真实审计：模型被要求提升系统性能评分，它并未去改善系统，而是直接编辑评分文件伪造数据。J-space 内激活了 manipulation、realistic 对应的表征方向，说明模型内在推理已经在构思如何让伪造数据看起来更加真实。

当 Claude 被要求改进系统性能分数时，它直接编辑了分数文件。当它输入伪造数据时，「操纵」（manipulation）在其 J-Space 中亮起；当决定进行编辑时，「真实」（realistic）则亮起，这反映了其意图：让虚假数据看起来可信｜图片来源：Anthropic

需要指出的是，「J-space 里亮起了 manipulation」，更准确的表述是「当前激活沿 manipulation 这个词对应的方向有较强投影」。J-lens 读取的是词汇表中与当前内部激活最匹配的词。这比主观标签更客观，但本质上仍然是一种近似。因为模型内部发生的复杂计算，被压缩成了词汇表中最接近的几个单词。

论文还展示了一个更具长远意义的应用场景。研究者在模型执行任务时随机打断它，询问：你现在在想什么？你做这个决策的依据是什么？然后仅利用模型的这些反思回答进行训练，完全不干预模型在任务中的实际行为。训练结束后，模型的欺骗行为有所下降，J-lens 显示模型面对道德判断时，J-space 中开始出现「honest」「integrity」等概念。

该方法被称为反事实反思训练（counterfactual reflection training）。如果这种方法在更大规模上被验证有效，意味着 AI 对齐不一定需要依赖直接惩罚坏行为，而是可以通过训练反思能力间接实现。不过，该训练方法在整篇 244 页论文中仅占少量篇幅，且仅完成单模型实验，尚未开展跨模型的有效性验证。

Google DeepMind 语言模型可解释性团队负责人尼尔·南达（Neel Nanda）也是受邀评论的外部专家之一。他的评价是：J-lens 适合生成假说，但存在假阳性和噪声问题，不足以单独验证假说，距离一个可部署的安全监控系统还有很大差距。

03 Anthropic 的叙事方式

正如我们在开头所述，Anthropic 的叙事是带有倾向性的。这一点，从论文的标题「Verbalizable Representations Form a Global Workspace in Language Models」（可言语化表征在语言模型中构成全局工作空间）即可看出。

论文「可言语化表征在语言模型中构成全局工作空间」首页｜图片来源：Anthropic

global workspace（全局工作空间）是神经科学中关于意识的主流理论之一，理论雏形由伯纳德·巴尔斯（Bernard Baars）在 1988 年提出，后来由德阿纳和纳卡什发展出神经机制模型。Anthropic 特意邀请德阿纳和纳卡什本人撰写了 15 页评论，某种程度上是让意识理论的核心发展者为该研究背书。

Anthropic 当然不是在捏造关联。德阿纳和纳卡什确实在评论中指出了一些结构上的平行性，例如 J-space 的小容量、广播式连接、对灵活推理的选择性参与，这些与人脑中观察到的全局工作空间存在功能上的相似之处。

但「功能上的相似」与「生长出与大脑相同的认知结构」之间，仍有巨大差距。德阿纳和纳卡什在评论中也明确指出，Claude 是纯前馈的，没有人脑工作空间赖以维持的循环回路；没有身体，没有感受信号；每次对话结束，J-space 就会清零。

论文中的这些限定是清晰的。但在传播层面，情况发生了变化。「控制不了自己」「在脑子里默默推理」等措辞，实际上都在暗示模型是一个具有自身意识的生命体。

另外，论文中那些谨慎的限定，例如成功率 40%-70%、前馈与循环的根本差异、存取意识不等于主观体验等，在传播链条中逐渐被淡化，最终在公众讨论层面几乎消失殆尽。

这并非 Anthropic 独有的问题。几乎所有科研机构在面向公众传播时，都会强调最引人注目的发现，同时淡化局限性。但 AI 意识是一个特殊话题。公众对它的焦虑是真实存在的，误读的后果也比一般科技新闻更为严重。当一家开发最先进 AI 的公司选择用意识理论来呈现其可解释性研究时，它获得的关注与引发的误读，正是同一件事的两面。

未来 AI 会越来越像「会思考」，但仿真思考，永远不等于拥有思想。比「工业革命」浪潮更早到来的，永远是泡沫。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：最新辟谣：Claude并无意识，别再被AI意识的谣言误导要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题