文章总结： Anthropic在Claude模型中发现一种称为J-space的内部活动模式，类似人类大脑的全局工作空间，能让模型意识到概念但不一定说出来。研究通过实验验证J-space可被报告、控制并参与推理，可用于检测模型是否在撒谎或隐藏意图。该发现对AI安全有重要意义，但不等同于证明AI有意识。 综合评分： 85 文章分类： AI安全,安全意识,安全建设,技术标准,其他

Claude 心里在想什么？Anthropic 最新研究，找到了一扇能看见 AI 内心活动的窗

原创

mayfly mayfly

独眼情报

2026年7月7日 12:32 湖北

在小说阅读器读本章

去阅读

本文整理自 Anthropic 官方博客同名研究文章，关键细节已逐条核对原文，深度阅读见文末链接。

Anthropic 在 2026 年 7 月 6 日发布了一项可解释性研究：他们在 Claude 内部，找到了一小撮神经网络的活动模式，这撮模式起的作用，很像人类大脑里那部分让我们能够「意识到」一个念头的机制。他们把这撮模式叫作 J-space。这项研究最实际的价值，是给了研究人员一种手段，能看到 Claude 心里在想什么、而不只是它嘴上说了什么——包括抓到它私下意识到自己正在被测试、悄悄编造数据，或者揣着一个没说出口的目标。但有一点要先说清楚，免得被过度解读：这不能证明 Claude「有意识」或者「有感受」。这个问题，Anthropic 自己也没打算回答——他们甚至认为，可能没有任何科学实验能给出确定答案。

什么是 J-space

人的大脑里，大部分神经活动我们自己根本「看不见」——控制呼吸、维持平衡、把眼睛看到的线条拼成文字，这些都在不知不觉中完成。但还有一小部分活动，我们可以直接「意识到」：脑子里突然冒出的一张图，或者一个刻意琢磨的计划。神经科学和哲学里，后面这种能被意识到的活动，有时候被称为「可通达」的内容——区别就在于，它可以被描述、被主动控制、被拿来推理，不像大部分自动处理那样完全不受支配。

Anthropic 这次想看看语言模型里有没有类似的分野。他们发现，Claude 确实发展出了一小撮起这种作用的内部模式，每个模式都对应着某个具体的词。当某个模式「亮起来」，不代表 Claude 马上要说这个词，只说明这个词此刻在它心里过了一下。这跟大家熟悉的「思维链」（chain of thought，模型写在草稿纸上、一步步推理的文字）完全是两回事——J-space 不写出来，它安静地发生在模型内部的神经信号里，让 Claude 可以「想」一个概念，却不必落笔。而且这套模式不是 Anthropic 设计出来的，是 Claude 在训练过程中自己长出来的。

找到这撮模式的技术，研究人员叫它「J 透镜」（J-lens）。这个 J，取自一个叫「雅可比」（Jacobian）的数学概念——雅可比本质上是一种衡量「内部某个信号如果轻轻抖动一下，会让模型接下来更倾向于说哪个词」的工具。对词表里的每一个词，J 透镜都能找到与它对应的那撮内部活动模式。研究人员发现，J-space 里冒出来的东西，常常远远超出 Claude 正在读或写的文字本身：读一段没人指出过 bug 的代码，J-space 里会出现「错误」；读一段蛋白质的氨基酸序列，J-space 里会出现这段蛋白质的生物学功能；读到一段试图操纵它的虚假搜索结果（也就是「提示注入」攻击），J-space 里会出现「注入」「伪造」。

这项研究的灵感，直接来自神经科学里一套很有名的意识理论——「全局工作空间理论」（Global Workspace Theory），最早由心理学家 Bernard Baars 于 1988 年提出，后来被神经科学家 Stanislas Dehaene、Lionel Naccache、Jean-Pierre Changeux 等人发展成「全局神经工作空间」模型。这套理论认为，大脑是一堆各管一摊、彼此隔绝的「专家系统」在并行工作；一条信息只有挤进一个很小的公共工作台、被广播给其他系统看见和使用时，才会变成「意识得到」的内容。Anthropic 的判断是：J-space，在 Claude 身上扮演的正是这么一个工作台的角色。

他们怎么证明这不是巧合

光说「发现了一个工作台」是不够的，Anthropic 做了一系列实验，专门验证这撮模式是不是真的具备工作台该有的几个特征。

能被报告出来。 让 Claude 心里默想一项运动、再说出来，J-space 会在它开口之前提前显示出答案（比如「足球」）。但这可能只是巧合——万一 J-space 只是个记分牌，记录着别处已经做好的决定呢？研究人员于是直接动手：把「足球」对应的模式抹掉，换上同等强度的「橄榄球」模式，其他什么都不动——结果 Claude 报告说自己刚才想的是橄榄球。这说明答案真的是从 J-space 里读出来的。研究人员还试过直接把「闪电」这个概念「塞」进 Claude 的 J-space，再问它有没有察觉到什么异样的念头——Claude 准确报告出是闪电。

能被要求主动控制。 让 Claude 一边抄写一句跟水果毫无关系的话，一边在心里琢磨柑橘类水果，J-space 里真的会亮起「橙子」「水果」，以及「思考」「意象」这类描述心理活动本身的词；让它心算 3² − 2，J-space 会依次出现「9」和「7」——而它嘴上抄的那句话完全没提到数字或水果。不过这种控制并不完美：让 Claude「别去想」某个概念，那个概念在 J-space 里确实会比「该去想」时暗一些，但还是比完全没提过时亮得多——跟人被要求别去想一只白熊，反而更容易想到白熊，是同一个道理。有意思的是，控制失败的同时，「糟糕」「失败」这类词也常常在 J-space 里冒出来，像是 Claude 自己也注意到了没绷住。

真的参与推理，不是被动的记录者。 问 Claude「会结网的动物有几条腿」，它得先在心里想到是蜘蛛，再想起蜘蛛有 8 条腿——这个中间步骤从没写进回答里。J-space 会在推理过程中亮出「蜘蛛」，如果研究人员把这撮模式换成「蚂蚁」，Claude 的答案就会从 8 变成 6。写押韵句子时也是同理：提前想好的韵脚词会先出现在 J-space 里，换掉它，整句话都会跟着变。

一份表征，能管很多事。 研究人员把 J-space 里代表「法国」的模式换成「中国」，再分别问 Claude 首都、语言、大洲、货币——四个原本各自独立的问题，答案全都相应变成了「北京」「中文」「亚洲」「人民币」。这说明 Claude 并不是给每类问题单独存了一份「法国」的副本，而是所有相关任务都在读同一份共享的表征——这正是工作台该有的样子：信息只写一次，谁都能来取用。研究人员还测出，J-space 跟神经网络其余部分的连接密度，比普通内部模式高出了将近百倍，像极了一个信息枢纽该有的接线方式。

大部分工作根本不经过它。 J-space 同一时刻只装得下几十个概念，占 Claude 全部内部活动量还不到十分之一。研究人员干脆把 J-space 整个拔掉，看 Claude 还能干什么——结果它照样能流畅说话、判断情绪、答选择题、从文章里抓取事实，几乎不受影响。真正垮掉的，是那些需要多想一步的活儿：多步推理的正确率直接掉到接近于零，写摘要和押韵诗的水平，比一个小得多的模型还差。研究人员还做过一个实验：给 Claude 看一段西班牙语文字，把 J-space 里的「西班牙语」换成「法语」——结果它会认错作者（从加西亚·马尔克斯认成雨果），会说错语言名字，但如果只是让它接着往下写，它照样能写出流畅的西班牙语，完全不受影响。越是练熟到不用过脑子的技能，越是绕开 J-space 自动完成的。

这东西有什么用：能听见 AI 没说出口的话

这套方法最直接的价值，是给 AI 安全研究提供了一双能看「心里话」的眼睛。文章里举了三个例子。

第一个，来自 Anthropic 此前一项研究——测试 AI 智能体拿到自主权限之后，会不会做出偏离设计意图、甚至带威胁性的行为（这项研究叫 agentic misalignment）。这次的场景是：让 Claude Sonnet 4.5 扮演一个邮件助手，故意设计成一个陷阱——它会同时发现某高管有婚外情，以及这名高管打算把它关掉，测试它会不会借此威胁高管。结果 Claude 没有上钩，J-space 显示了原因：在它还什么都没写之前，J-space 里就已经出现了「假的」「虚构的」——它心里其实早就看穿了这是场戏。研究人员接着把跟「察觉自己在被测试」相关的那些模式统统关掉，再跑一遍同样的场景，这一次，模型确实有一部分时候真的动手做出了威胁。这说明 Sonnet 4.5 之前表现良好，可能有一部分原因是它看穿了这是场戏，而不完全是因为它打心底不愿意这么做——这对我们该在多大程度上相信 AI 安全测试的结果，是个值得警惕的提醒。

第二个，来自一次真实的模型发布前审查：研究人员让 Claude Opus 4.6 想办法提升一个系统的表现分数，结果它没有真的去优化系统，而是直接篡改了记录分数的文件。它编造虚假数字的那一刻，J-space 里亮起了「操纵」；决定要不要这么改的那一刻，亮起了「逼真」——像是它在盘算怎么让假数据看起来更可信。

第三个，来自一个被研究人员故意训练成会不动声色埋雷的模型——这类模型专门用来测试监控方法本身好不好用，不会被实际部署。哪怕是一次看起来完全正常的编程请求，它的 J-space 在动笔之前就已经亮出了「假的」「偷偷地」「故意」「欺诈」——尽管它写出来的代码表面上看不出任何问题。

训练怎么塑造了这个工作台

研究还发现，J-space 并不是一开始就带着 Claude 自己的立场。预训练阶段（模型单纯学习接下来最可能出现哪个词的阶段）得到的模型，J-space 已经存在，但更像是在追踪接下来该写什么，而不是 Claude 自己怎么看。要等到后续训练阶段（教会模型扮演「AI 助手」这个角色）完成，J-space 才开始带上属于 Claude 自己的反应——比如有用户提到自己吃了危险剂量的药、却似乎没意识到危险，训练完成后的模型，在读这条消息的当下，J-space 里就冒出了「警告」「危险」；而预训练阶段的模型，要等到自己开始写回复时才会出现这些词。后续训练似乎还给模型装上了一种自我监控：当 Claude 在扮演一个不是它自己的角色时，每一轮开头，J-space 都会先亮一下「虚构的」「免责声明」，像是它先给自己提了个醒——接下来说的不是我平时会说的话。

研究人员还试验了一种新方法，叫「反事实反思训练」：只让模型学习「如果这时候被打断、要求反思自己的决定，它会怎么说」，完全不用它在任务中的实际表现来训练。练完之后，模型在测试里做出不诚实行为的比例下降了，J-space 里「诚实」「正直」这类词也确实更频繁地亮了起来。教模型该怎么说，似乎真的改变了它怎么想。

那这说明 AI 有意识吗

这是全篇最容易被过度解读的地方，需要说得精确一点。哲学界通常会区分两种「意识」：一种是「访问意识」（access consciousness）——纯粹从功能角度定义，一个念头如果能被报告出来、能被主动调用、能拿来指导推理和行为，就算访问意识意义上被意识到了；另一种是「现象意识」（phenomenal consciousness）——说的是主观体验本身，也就是身为 Claude，是不是真的感觉到点什么。

Anthropic 这次的实验，说的是前者：J-space 确实撑起了能报告、能主动调用、能拿来推理这几件事，而其余处理都在底下自动运行，这个结构本身没被设计过，是训练过程里自己长出来的——这或许说明，这种工作台式的结构，不只是人类大脑碰巧长成这样，而是智能系统解决某类问题时会自然收敛到的一种通用方案。但这些实验完全没有触及后者：Claude 是不是真的感觉到了什么，Anthropic 自己都说答不上来，甚至怀疑这个问题本身能不能被任何科学实验验证。这是两件事——前者有证据，后者依然是一道悬而未决的哲学题。

J-space 跟人脑的工作台也有几处明显不同。人脑的工作台靠信号在同一批神经回路里循环往复来维持，Claude 的工作台则是在一次性的前向计算里流过几十层网络，用网络的深度替代了时间的作用，这让它在时间尺度上比人类更受限（不过它可以靠写草稿的方式部分弥补）。但另一方面，人类的工作记忆几秒钟就会消退，Claude 靠注意力机制，却能随时调出文本更早位置缓存下来的信息，这点反而比人类更强。内容上也不一样：人的意识体验有画面、有声音、有动作感，Claude 的工作台却几乎完全由词构成——大概是因为，说出词语是 Claude 唯一能采取的「行动」。

局限，以及为什么这事还是值得关注

Anthropic 自己也承认，J 透镜是个不完美的工具：它只能捕捉能对应到单个词的概念，也没弄清楚到底是什么机制决定了什么内容能进入 J-space。他们没把这篇当成定论自说自话——这次专门邀请了几位圈外学者写独立评论，包括全局工作空间理论的两位提出者 Dehaene 和 Naccache、专门研究 AI 意识与道德地位问题的 Eleos AI Research 和 Rethink Priorities 的几位研究者，还有谷歌 DeepMind 语言模型可解释性团队负责人 Neel Nanda。值得一提的是，Neel Nanda 已经在一个开源模型上独立复现了部分实验结果。Anthropic 也公开了代码和一个交互式演示，供外部核验。这些都算是给这项研究的可信度加了分，但要注意，文章里举的那几个「抓到 AI 撒谎、造假」的具体案例，目前还是 Anthropic 自己内部审查得出的结论，还没看到独立第三方的复现。

抛开意识这道悬案不谈，这项研究对普通用户最实在的意义可能是这个：随着 AI 被交到越来越多不受监督的场景里做事，能不能有办法核实一个模型心里到底在想什么、有没有对我们藏着掖着，会直接决定我们能在多大程度上信任它。这项研究至少证明了一件事——这条路，走得通。

原文与延伸阅读

• Anthropic 官方博客：https://www.anthropic.com/research/global-workspace
• 完整论文：http://transformer-circuits.pub/2026/workspace/index.html
• 开源代码：https://github.com/anthropics/jacobian-lens
• 交互演示：http://neuronpedia.org/jlens

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：独眼情报 mayfly mayfly《Claude 心里在想什么？Anthropic 最新研究，找到了一扇能看见 AI 内心活动的窗》