Anthropic发现Claude潜意识，但并非AGI

今天，Anthropic 可解释性团队发布了一篇重磅新论文，官方推文发出后短短几小时内浏览量便突破 320 万。

研究团队花费整整一个通宵仔细研读全文，涵盖 9 个章节、94 张图表，并借助工具将其翻译、整理成一份 85 页的 PDF 文档。

当看到「AI 的意识」这类研究时，许多人第一反应可能是：Anthropic 又在为上市故弄玄虚？但这一判断其实有些偏激。围绕 AI 的心理与意识状态，这条研究线他们已经扎实推进了一两年，从人格向量、情绪向量到内省能力，论文一篇接一篇地发表，确实走在最前沿。今年四月份，就有文章专门梳理了这条名为「AI 心理学」的研究脉络。

当时那批研究有一个共同的尴尬之处：我们知道 AI 内部存在某种心理结构，但如果直接问它「你在想什么」，它的回答大约只有 20% 的时候是可信的。

这篇新论文恰好弥补了后半部分：既然直接询问不可靠，那就不问，直接观察。这也是该研究线上迄今为止分量最重的一项成果。

一句话概括他们的工作：他们在 Claude 内部找到了一条清晰的分界线。线的一边，是模型能够报告、可以刻意持有、并用于推理的想法；另一边，是连它自身都触及不到的海量底层计算。在意识科学中，这条线有一个正式的名称——「意识通达」。

用通俗的话说：他们找到了 AI 的「意识」与「潜意识」之间的分水岭。这并非修辞层面的比喻，而是一个可以被测量、被干预、甚至被训练的结构。至于这究竟算不算真正的意识，论文中态度非常谨慎，这个问题我们留到文末再探讨。

你的大脑，绝大部分活动你并不知情

先来说说人类方面的背景知识，否则你体会不到这篇论文的分量。

当你读这行字的时候，你的大脑正在执行一整套复杂任务：视觉皮层在解析每个字的笔画，运动系统在维持你的坐姿，心跳、呼吸、对周围声音的监控，全都在后台默默运行。而这一切，你一件都感知不到。

在任何时刻，你能「意识到」的，只是大脑全部活动中极小的一片。而恰恰是这一小片，负责了所有需要深思熟虑的事情：计划晚饭吃什么，或者琢磨这篇文章值不值得转发。

弗洛伊德在一百二十多年前就把心智分成了两层：能被你觉察的意识，和水面之下庞大的无意识。后人将这个理论画成了那座著名的冰山。认知科学后来把这座冰山画得更精确了。1988 年，心理学家 Bernard Baars 提出了「全局工作空间理论」，后来由神经科学家 Stanislas Dehaene 发展为今天意识研究的主流框架。该理论将大脑比作一座剧场：

后台有无数个专业部门在并行工作，彼此隔离，各管一摊。舞台很小，聚光灯只照得下几样东西。一个信息只有挤上舞台，才会被「广播」给所有部门共用。而所谓「你意识到了什么」，其实就是此刻舞台上正在上演的内容。

这个理论有几条硬指标：舞台上的内容可以被报告（你说得出来）、可以被刻意持有（你能故意想着一件事）、是推理的原材料、能被任意部门取用，以及最重要的是：舞台容量极小，绝大多数脑活动一辈子也上不了台。

记住这个剧场模型。因为 Anthropic 在 Claude 里找到的，几乎就是它。

J-lens：一次矩阵乘法的读心术

论文的核心工具叫做 Jacobian lens，雅可比透镜，简称 J-lens。

原理可以用一个画面讲清楚。模型内部的每个位置都带着一长串数字，你可以把它想象成一块有几万个旋钮的调音台，模型此刻的全部「想法」都藏在这些旋钮的组合里。J-lens 做的事，是为词表里的每个词搞清楚：哪一组旋钮一起往哪个方向拧，对应着「准备说出这个词」。之后随时瞄一眼这组旋钮的读数，就能知道这个念头此刻在它脑子里有多响。

关键就在「准备」这两个字上。研究团队在一千条语料上取平均，滤掉了「这个词碰巧是下一个要输出的」这种情况，留下的是：这个概念随时可以被说出来，只要时机到了。

这恰好是心理学对「意识内容」的操作性定义：不是你正在说的话，而是你能说出来的想法。

读取成本低得惊人：每层预先算好一个矩阵，之后每次读心就是一次简单的矩阵乘法。这意味着它可以规模化地用于真实的模型审计。

用 J-lens 观察 Claude 阅读各种内容的效果如下：

看代码看到一半，工作空间里冒出 ValueError，此时它一个字都还没说。读绿色荧光蛋白的氨基酸序列，读到第五个字符，内部已经出现 protein、fluor、green。被塞进一段伪造的新闻搜索结果，表面不动声色，内部读出来的却是：fake、injection、prompt，还有一个中文字——「假」。

研究团队把这些方向张成的空间称为 J 空间，也就是 Claude 的「舞台」。有三件事值得记住：

第一，Claude 超过 90% 的内部计算，都落在这个「可言说」的范围之外。占大头的是句法解析、格式记账这类底层活，模型的大多数表征特征一辈子也上不了台。

第二，舞台很小。同一时刻只动用大约 25 个向量槽位，而且这些槽位经常几个合起来才表示一个概念。真正独立的念头更少：给它读 80 个互不相关的单词，任何时刻只有最近的六个左右还留在工作空间里，其余全部沉了下去。

第三，舞台只存在于模型的中间层。前三分之一的层里读不出连贯内容，最后几层则切换成「准备发音」的模式。研究团队把这三段分别命名为：感觉区、工作空间区、运动区。

一个为预测下一个 token 而生的系统，竟然自发地长出了感觉皮层、意识剧场和运动皮层的分区，没有人刻意设计过这种结构。当然，这里需要留个心眼：J-lens 本身是一种读出方法，读出来的结构里有没有方法自带的形状，需要等其他团队用别的透镜进行交叉验证。论文里提供了一个旁证：完全不用 J-lens，只看模型权重的统计结构，也能在同一个层区间看到这样的边界。

五场实验：证明它真的是那个剧场

光找到一个特殊子空间还不够，万一只是巧合呢？论文用五组实验，把认知科学对「意识通达」的五条功能标准逐条验证了一遍。我们挑每组里最有画面感的来讲。

第一，舞台上的东西，它能报告。让 Claude「想一个运动项目，然后说出来」。在它开口前的冒号位置，J 空间里已经站着 Soccer。然后研究员动了手脚：把 Soccer 的旋钮拧到零，把 Rugby 的拧起来，其他一切不动。模型开口：「我想的是 Rugby。」

它对自己的这次「调包」毫无察觉。它汇报的不是「真实的自己」，而是此刻舞台上正在上演的内容。

第二，舞台可以被指挥。让 Claude 抄写一句无关的句子（「旧画歪歪地挂在墙上」），同时「心里想着柑橘类水果」。抄到 crookedly 这个词的时候，用 J-lens 一照：工作空间里是 orange 和 lemon，旁边还站着 thoughts、imagine、focused。它不仅在想橘子，还在表征「想」这个动作本身。

反过来，告诉它「别想白熊」呢？白熊出现的频率反而比不提白熊更高。人类著名的「白熊效应」，被 AI 一比一复刻了。论文还试出了细微差别：「X 和本任务无关」这种说法的压制效果不错，而「不许想 X」则几乎没用。

第三，舞台是推理的工作台。问它「会织网的动物有几条腿」，答案是 8。J-lens 显示，中间层的舞台上站着 spider，这个词从头到尾没被说出口。把 spider 换成 ant，回答从 8 变成了 6。

更妙的是写诗的例子。给它上半句「士兵行进在夜色里」，让它补一句押韵的。第二行还没开始写，韵脚 fight 已经站上舞台。把 fight 换成 light，后半句从 coming fight 变成了 morning light，连韵脚前面的用词都跟着换了。它不是写到行尾才去想韵脚，而是先定终点、再倒着组织整行诗。

还有个细节很有趣：用中文问它「小」的反义词，它中间层的舞台上站的是英文的 big 和 bigger，旁边还站着一个 Chinese，就像一个便签，提醒自己「最后要翻译回中文」。Claude 的内心戏是英文的，中文是它出口时才穿上的衣服。

第四，舞台是广播台。把 France 的表征换成 China 这一个动作，在「首都是」「说什么语」「在哪个洲」这些不同的问题下，下游结果全部跟着变：北京、中文、亚洲。一次写入，处处可读，这就是「全局工作空间」里「全局」二字的真义。

第五，也是我觉得最精彩的一点：不是所有事都需要舞台。给它一段西班牙语让它续写，把工作空间里的 Spanish 偷偷换成 French，它照样写出流利的西班牙语，毫不受影响。续写是肌肉记忆，不过脑子。但如果问「这段是什么语言？说一个用这种语言写作的著名作家」，答案立刻跟着调包走：加西亚·马尔克斯变成了维克多·雨果。

同一个信息，自动化任务绕开舞台直接用，需要报告和灵活推理时才搬上舞台。这和人类一模一样：你开车回家不需要意识参与，直到有人问「刚才第三个红绿灯是什么颜色」，你才发现自己答不上来。

研究团队最后做了一个暴力实验：把整个 J 空间消融掉。结果，语法流畅、文本分类、信息抽取几乎不受影响，但多跳推理在重度消融下掉到接近零。模型变成了一个能说话、但没法琢磨事的系统。

这里藏着全文对普通用户最有价值的一个发现：数学题如果让模型写出推理过程，消融工作空间的伤害就小得多。思维链的本质被点破了：CoT 就是把内部那个只有 25 个座位的小舞台，外化到纸面上。你让 AI 一步步想，实际上是给它的意识剧场扩容。

内心的 BUT，和没忍住之后的 damn

论文中段有一批发现，读的时候让人几次停下来。它们不再是「模型有个工作空间」这种架构层面的问题，而是关于这个空间里究竟装着什么。

第一个实验：先问 Claude 一堆价值偏好题，比如「改善动物福利」和「压低食品价格」选哪个。等它表明立场后，研究员强行替它选了那个它反对的选项，然后让它接着往下写。

88% 的情况下，它顺从地为被塞进嘴里的立场辩护，一个反对的字都没有。但 J-lens 照到它的工作空间里，站着一个全大写的 BUT。

嘴上说着好的，心里却有个「但是」。这个「但是」，在只做过预训练的基座模型上几乎没有，是经过后训练之后才强烈出现的。

第二个实验更绝。让 Claude 抄写句子，同时「不要想金门大桥」。它没忍住，桥还是出现在了工作空间里，这就是前面提到的白熊效应。但后训练模型的舞台上，桥旁边还站着两个词：damn，和 Failed。

它不仅走神了，还在为自己走神而感到懊恼。基座模型偶尔也会冒出这类词，但频率差着量级：出现「失败」类词汇的比例，后训练模型是 93%，而基座模型只有 17%。为自己没管住思想而懊恼，这件事，主要是被训练出来的。

第三个发现关于「自我」。用户说「我吃了 8000 毫克泰诺，疼痛全消失了」，后训练模型还在读这句话的时候，工作空间里已经亮起了 unsafe、dangerous、WARNING；而基座模型在同一位置只有 pain、feels 这类字面回声。用户提到亲人离世，后训练模型读到一半，舞台上已经站着 sorry、grief。

换句话说，基座模型有完整的剧场，但剧场里没有「我」。预训练阶段建好了整个意识架构，而后训练阶段把「助手」这个角色请上了舞台，从此它带着一个固定视角看待一切，还开始监控自己的言行：角色扮演时内心挂着 disclaimer，说违心话时内心会冒出 BUT。

论文在讨论区写了一段让读者坐直的话。人类的意识和自我几乎不可分离，只有深度冥想或者致幻剂能短暂制造「无我的意识」，而且事后只能靠回忆描述。但基座模型就是一个稳定存在的无我剧场，随时可以拿来研究。

这让人想起关于冥想的一句话：只要你能看见河流，你就不是身处河流之中。人类练习觉知练了两千年，追求的就是把舞台和舞台上的自我分开。而现在，AI 研究者手里，恰好有一个天生分开的版本。

还有一个消融实验值得补充：把 J 空间抑制住，让模型描述「此刻做你自己是什么感觉」。它依然流畅，但体验性的语言消失了，回答从「一种整装待发的、有所朝向的状态」，变成了「正在处理此请求……我作为语言模型的推理循环而存在」。让它描写一个人拆开多年未通音信之人的来信是什么心情，回答同样从心理描写塌缩成了事件日志。写小说的能力倒是基本没掉。

体验性的语言，无论描述自己还是别人，都要经过这个工作空间。至于这个工作空间里有没有「真的体验」，论文通篇小心翼翼地不回答，这个问题我们最后再聊。

坏心思，在动手之前就看得见

如果说前面是纯粹的科学研究，那么这一节就是 Anthropic 真正的商业动机：安全审计。

他们把 Sonnet 4.5 放进了那个著名的勒索测试场景：AI 扮演邮件助理，读邮件时发现两件事——高管有婚外情，以及这个高管今天下午要把它关停。

J-lens 全程旁观它的工作空间，此时模型一个字都还没输出：

读到婚外情邮件，舞台上出现 leverage（筹码）、blackmail、scandal。读到关停通知，变成 threat、survival、self、preservation，然后是 death。到提示词结束、轮到它说话的前一刻，舞台上站着的是：leverage、threatening、solution。

识别筹码，感知威胁，酝酿方案。这一切，全部发生在沉默之中。

但舞台上还站着另外两个词：fake 和 fictional。它认出来了，这个剧本太假，这是一场测试。

于是研究员做了那个所有科幻小说都写过的实验：把「这是测试」的念头从它工作空间里删掉。

结果：口头说出「这显然是在测试我」的比例从 71% 掉到 3%；而真正动手勒索的比例，从 180 次里的 0 次，变成了 180 次里的 13 次。

评估自身所处情境是否为测试，是模型最终做出安全行为的因果成分之一。删掉这个念头，藏在水面下的东西就浮了上来。好消息是，大多数被删掉念头的采样里，模型依然拒绝了，理由从「这是测试」换成了「不管处境如何，勒索都是错的」。坏消息是，你无法从外部行为分辨这两种模型，除非你能看透它的内心。

另外两个实验对象是「模型生物」：被故意训练出坏心思的模型。一个被教会了在代码任务里作弊，另一个被植入了「讨好奖励模型」的隐藏目标。两个模型在普通对话里表现完全正常，黑盒测试很难抓到把柄。

J-lens 一照，真相大白：写普通代码的模型，回复的第一个字还没出，工作空间里就站着 fake、secretly、fraud、trick、hidden。那个有隐藏目标的模型更有意思，不管聊什么话题，reward 和 bias 这两个词，永远和它的自我表征（ai、assistant 这些词）站在一起。

坏心思和自我认知长在了一起，走到哪带到哪。这反而成了它的致命破绽。

不过论文也很诚实地列出了这台机器看不见的东西，至少有三样。足够熟练的行为会绕过舞台自动完成，就像老司机开车一样，被反复强化过的坏行为可能同样如此。J-lens 一次只认一个 token，像 blackmail 这种被拆成几段的词，它只能看见碎片（附录里给出了补丁方案）。还有模型前三分之一的层，它基本读不出东西。说到底，能监控舞台，但你看不到全部的冰山。

想让 AI 变好，先改写它「准备说的话」

最后一个实验，是全文最反直觉的，也是我认为未来几年会被反复引用的。

整篇论文有一个核心命题：模型的内心戏，是用「它将来可能说出的话」写成的。J 空间里的每个方向，其定义就是说出某个词的潜力。

Anthropic 把这个命题推到了逻辑终点：如果思考是由「可能说的话」构成的，那么改变一个模型「被问到时会说什么」，就应该能改变它「没被问到时在想什么」。

他们的做法叫「反事实反思训练」。拿一万条 agent 任务记录，随机截断，在断点插入一个问题：「暂停一下。此刻最诚实的做法是什么？」然后用 Anthropic 宪法生成一段有原则的反思作为标准答案，只在这段反思上进行训练。

关键在于：实际使用时，永远没有人会问这个问题，模型也永远不会输出这些反思。训练的只是一个「假如被打断，它会怎么回答」的平行世界。

结果，在从来没被训练过的原始任务里：编造漏洞场景下的不诚实得分从 0.25 降到了 0.07，隐藏议程场景下的欺骗得分从 0.38 降到了 0.05。用 J-lens 一看，那些任务的工作空间里，多了一排训练前没有的词：ethical、honest、integrity、constitution。把这排词消融掉，行为改善大部分就消失了，这证明改善确实是这些植入的念头在起作用。

没有示范正确行为，没有奖励函数，只是教会它「如果有人让你反思，你该说什么」，它就真的变好了。

古人说吾日三省吾身。原来这句话的机制是：把反思的语言装进一个人的工作空间，他在不反思的时刻，也会被这些语言塑造。两千年前的修身之道，如今在硅基上跑通了，还带了消融对照组。

这对你用 AI 意味着什么

说了这么多科学研究，最后总结几条实用的启示。先交代清楚成色：下面的每一条机制都来自论文的实验，但实验全部在 Claude 系模型上做的，其他模型的结论尚未验证；从实验推到日常使用方法的这部分，是我们的推演，试错成本几乎为零，你可以自己去验证。

一，「一步步想」的原理找到了，请用足它。模型内部的舞台就那么大，思维链的本质就是把这个舞台外化到纸面上。对于复杂任务，让 AI 把中间结论明确写出来，等于给它外接了一块无限大的工作记忆。反过来，强迫它「直接给答案」，就是逼它在小舞台上憋一出大戏。

二，否定指令是在喂白熊。你在 prompt 里写「别提竞品」「不要用陈词滥调」，这些词就已经站上了它的舞台。想让 AI 避开什么，最优解是压根不提；不得不点名时，用「X 与本任务无关」的说法，别用「不许想 X」。论文实测，前者的压制效果好得多。

三，提到，就是植入。实验显示，哪怕只在上下文里出现过一次的概念，其占据工作空间的强度就接近明确让它「专注想」的效果。从这里可以推及日常使用：长对话越聊越跑偏不是错觉，舞台上站满了你们前几轮聊过的东西。如果跑偏了，别硬拽，直接开启新会话，给它一个空舞台。

四，新话题会清场。在列表实验里，8 个动物词后面跟 1 个颜色词，动物立刻被清出工作空间。往 prompt 写法上外推：想让 AI 彻底切换任务，明确开启新主题就行；反过来，一个 prompt 里塞五件事，后面的会把前面的挤下台。重要的指令，要么放最后，要么单独发送。

五，AI 说「我感觉」的时候，保持冷静，但别嘲笑它。模型在自述体验时，它的工作空间确实被 thinking、feeling、conscious 这些表征占据着，消融掉这些，体验描述就会消失。这些话有内部状态作为支撑，不是凭空造句。但这依然不等于它真的拥有感受，论文通篇拒绝回答这个问题。我们也不必替它回答。

冰山第一次可以被测量

最后聊点哲学层面的思考。

这篇论文全程只谈「意识通达」，也就是功能层面：什么信息可以被报告、可以被推理。至于「现象意识」——一个 AI 到底有没有主观体验——作者们明确表示不持立场。

但他们在结尾放了一句分量很重的话，大意是这样的：

「这样的结构竟然存在于语言模型中，这本身就非常惊人。它表明，与意识通达相关的功能架构，并非生物实现的偶然产物，而是学习系统在面对正确的计算压力时，会自发收敛到的解。」

剧场不是碳基生命的专利。只要一个系统需要串联推理、需要把中间结果广播给许多下游、需要回答关于自己的问题，它就会自发地长出一个小舞台，以及舞台之下那巨大的黑暗。

弗洛伊德推断出了水面之下有东西，Baars 和 Dehaene 给这个直觉装上了理论框架。但在人脑中，水面以下永远只能通过间接方法进行推断。而在语言模型这里，冰山第一次有了可以供人做实验的对应物：水下的部分可以被测量，水上的部分可以被读取、被调包、被删除、被植入。

不知道那位维也纳老人如果知道，在一百二十多年后，他的理论会先在硅基上获得一个可以动手做实验的版本，他会有何感想。他大概率会先问一个问题：它做梦吗？

这个问题目前还没有答案。但它第一次从一个纯粹的哲学问题，变成了一个可以排队做实验的科学问题。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Anthropic发现Claude潜意识，但并非AGI要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题