刚刚，Anthropic发现Claude「类意识工作台」，神秘J空间藏着没说出口的想法

此刻，你的大脑正在做很多事。 它让你维持坐姿，让你呼吸，把屏幕上的笔画识别成文字，也让你判断这篇文章值不值得继续读下去。绝大多数过程都在后台运行，你并不会察觉。真正浮到意识表面的，只是一小部分：一个念头、一个计划、一个可以被说出口的想法。 现在，Anthropic 在 Claude 身上看到了某种相似的分层。 在刚刚发布的一项新研究，Anthropic 发现 Claude 内部存在一个特殊的「J 空间」。它像一个静默运行的心理工作区，里面会浮现模型正在考虑、可能报告、也可能用于推理的概念。 更关键的是，这些内容并不一定会出现在 Claude 的回答里。换句话说，Claude 可能已经「想到了」某些东西，却没有说出来。 这项研究引来了 OpenAI 同行的关注，OpenAI 应用研究负责人 Boris Power 表示「Anthropic 的研究表明，现代 LLM 具备某种可通达意识。围绕 J 空间的测试非常有意思！不过，我们目前还没有一种有说服力的测试方法，能够验证现象意识，也就是大多数人直觉中所理解的那种意识。」 博客原文翻译如下： 当你读到一句话时，你大脑中的一些神经回路正在调整你的姿势、控制你的呼吸，并把屏幕上的线条和曲线转化成可以识别的文字。绝大部分处理过程，你都感知不到。但也有一部分大脑活动是你可以意识到的：比如脑海中突然浮现的一幅图像，或者你有意识地计划接下来要去哪儿购物。 神经科学家和哲学家有时会把后一类大脑活动称为「可被意识访问」的活动，以区别于那些在无意识中持续进行的处理过程。这类活动有一些特殊性质：我们可以描述它、控制它，并把它用于有意识的推理；相比之下，许多自动化处理一直在发生，却并不会进入我们的觉察范围。 在一篇新论文中，Anthropic 提出了相关证据，表明类似的区分也出现在 Claude 这样的现代语言模型中。研究团队发现，相比 Claude 内部大量其他处理过程，有一小组内部神经模式承担着一种特殊角色。 论文地址：https://transformer-circuits.pub/2026/workspace/index.html Anthropic 将这组模式称为 J 空间。这个名字来自研究团队用来发现它的方法，其中涉及一个名为雅可比矩阵的数学概念。J 空间中的每一种模式都与某个特定词语相关。不过，当某个模式被激活时，并不意味着模型正在说出这个词，而是意味着这个词正在它的「脑海」里。 你可能听说过语言模型有所谓的「草稿纸」或「思维链」，也就是模型在推理时写给自己看的文字。J 空间和它们不同。它静默地运行在模型内部的神经激活之中，使模型可以在不写出来的情况下思考某个概念。值得注意的是，J 空间并不是 Anthropic 设计或编程出来的，而是在 Claude 的训练过程中自然涌现出来的。 J 空间揭示了那些不会出现在模型输出中的内部思考。 研究团队发现，与 Claude 其他内部处理过程相比，J 空间具有一系列独特性质： Claude 可以报告这些表征。如果你问 Claude 它正在想什么，它会告诉你 J 空间中的内容。而非 J 空间中的表征，则更难被报告出来。 Claude 也可以按要求调节这些表征。如果你要求 Claude 思考某件事，或者在脑中默默解决一个问题，相应的模式会在它的 J 空间中被激活。相比之下，它很难调节不属于 J 空间的模式。 Claude 会使用 J 空间进行内部推理。如果你让 Claude 解决一个需要多步推理的问题，即便它没有把中间步骤说出来，这些中间步骤也会在 J 空间中被激活。尽管这些 J 空间模式的强度比其他表征更小，它们却会以因果方式影响 Claude 在这类任务中的表现。 J 空间中的表征可以被灵活地用于多种任务。比如，一旦「法国」在 Claude 的 J 空间中被激活，模型就可以回忆它的首都、货币，或者它所属的大洲。 不过，尽管 J 空间很重要，它并不参与语言模型完成的大部分工作。流利表达、回忆简单事实、使用正确语法等，都不主要依赖 J 空间。在实验中，当研究团队阻止 Claude 使用 J 空间时，它仍然可以正常互动，但会失去更高层次的认知功能。 全局工作空间的五项功能特性，以及我们用于在语言模型中测试这些特性的实验示意图。 这项实验受到神经科学中一个重要理论的启发：全局工作空间理论。这个理论试图解释意识访问是如何发生的。它把大脑想象成一组并行工作的专业系统，这些系统在无意识中运行，并且在很大程度上彼此隔离。某条信息只有进入一个小型共享通道，也就是「工作空间」，才会变得可被意识访问。进入工作空间之后，这条信息会被广播给其他大脑系统，供它们读取和使用。 基于这些发现，Anthropic 认为，J 空间在 Claude 中扮演着类似的「工作空间」角色。举例来说，研究团队发现 Claude 的 J 空间与其神经网络其他部分之间有着特别强的连接，这使它能够承担类似广播枢纽的功能。 这些发现并不能说明 Claude 是否像人类一样拥有意识，也不能说明它是否真的有任何感受。论文会在最后回答这个问题。但无论它在哲学上意味着什么，J 空间对 Anthropic 来说都是一个很有实际价值的工具，因为它让研究人员能够看到 Claude 在想什么，却没有说什么。 例如，研究团队可以用它发现 Claude 私下注意到自己正在接受测试，发现它有意生成虚假数据，或者发现它在追求一个由研究团队在训练中植入的隐藏目标。Anthropic 还开发了一种技术，可以影响 Claude 的 J 空间中哪些内容被激活，进而影响它的决策。 更广泛地说，这些发现改变了 Anthropic 对 Claude「心智」运行方式的理解。它揭示出，在大量更自动化、更不灵活的处理过程之中，存在一个具有特权地位的心理工作空间，可以用于有意识的推理。Claude 的内部机制并非一团混乱的数字，而是以一种让人联想到人类心智的方式组织了起来。 Anthropic 如何发现 J 空间 这项研究的起点，来自人类可被意识访问的思想所具有的一个关键特征：与无意识处理不同，它们通常可以被说出来。如果某个想法可以被你意识到，当别人询问时，你通常可以把它描述出来。 Anthropic 在 Claude 中寻找具有同样性质的表征：这些表征处在一个能够影响 Claude 可能说什么的位置上。这里说的并不一定是它当下正在说什么，而是如果被问到，它可以谈论什么。 研究团队的方法叫作雅可比透镜，简称 J 透镜。 对于 Claude 词表中的每一个词，J 透镜都会找到一种内部活动模式，这种模式会让 Claude 在未来某个时刻更有可能说出这个词。 当研究团队把这面透镜应用到 Claude 的内部活动上时，就会得到一串词语，也就是该时刻 J 空间中的内容。研究人员可以直接读取它们。Claude 通过一系列内部阶段来处理文本，这些阶段被称为层。通过在不同层上应用这项技术，研究团队可以观察 J 空间中的这些静默词语如何随着模型思考接下来要说什么而不断演化。 J 空间中出现的内容，远不止 Claude 正在阅读或写出的文本。当 Claude 读到一段有 bug、但没人指出问题的代码时，它的 J 空间中会出现「ERROR」。当它读到一串蛋白质序列的原始字母时，J 空间中会出现该蛋白质的生物学功能。当它读到一些暗中试图操纵它的搜索结果，也就是一种被称为「提示注入」的攻击时，J 空间中会出现「injection」和「fake」。当研究团队向 Claude 提出一个多步数学问题时，中间步骤会按照正确顺序出现在 J 空间中。 所以，尽管 J 空间是通过寻找「可以被说出来的表征」而发现的，它实际上揭示了 Claude 的内部想法。从某种意义上说，这类似于一些人会「用语言思考」，即便他们并没有把这些词说出口。 在六个提示词、不同层上的 J-lens 读出结果。每个案例中，J-lens 都揭示出一种没有出现在文本中的内部判断或计算：推理或数学题的解题步骤、代码中存在的 bug、对图像内容的识别、蛋白质的功能，以及对搜索结果可能是伪造的怀疑。 Claude 会报告 J 空间中的内容 第一组实验测试了 J 空间如何参与 Claude 的语言报告。 在一个实验中，研究团队让 Claude 默默想出某一类别中的一个事物，比如一种运动，然后说出它的名字。如果在 Claude 回答之前读取 J 透镜，就能看到它选了什么：「Soccer」排在列表最前面。果然，Claude 说出了 soccer。 不过，单看这一点还只是相关性。J 空间可能是 Claude 答案的来源，也可能只是反映了别处已经做出的决定，就像比分牌会记录比赛结果，却不会影响比赛本身。 为了验证这一点，研究团队进行了直接干预。研究人员进入 Claude 的神经网络，移除「Soccer」模式，并用同样强度的「Rugby」模式替换它，其他部分保持不变。随后，Claude 报告自己想到的运动是 rugby。 如果 J 空间只是一个单纯的比分牌，只是被动记录别处做出的决定，那么编辑它不会产生任何影响，Claude 仍然会说 soccer。但结果是，Claude 的回答跟随了这次编辑。这说明答案确实是从 J 空间中读取出来的。 在另一个实验中，研究团队告诉 Claude，可能有某个想法被注入到了它的脑中，并要求它报告自己注意到了什么。在一个例子中，当 Claude 还在读取问题时，研究团队向它的 J 空间注入了「lightning」模式。Claude 随后报告说，被注入的想法与 lightning 有关。对许多不同概念进行测试后，研究团队都观察到了类似结果。 左图：研究团队让 Claude 默默想一种运动，然后说出名字。J 透镜在它回答之前显示了它的选择「Soccer」，而把「Soccer」模式换成「Rugby」后，它的报告也随之改变。右图：研究团队告诉 Claude 可能有一个想法被注入，并要求它识别。向 J 空间注入「lightning」会让 Claude 报告这个想法与 lightning 有关。 Claude 可以按要求控制 J 空间 Anthropic 测试的第二个性质，是 Claude 能否按要求调节自己的 J 空间，就像人类可以在心里专注于某个图像或词语一样。 研究团队让 Claude 在抄写一句与绘画有关的无关句子时，专注于柑橘类水果。在它抄写文本的过程中，J 空间里出现了「orange」和「fruits」，同时还出现了「thinking」「imagery」等描述心理活动本身的词。 研究团队也可以要求 Claude 在脑中做数学题。比如，在抄写同一句话时，让它计算 3² − 2。J 空间先出现了「nine」，随后在更后面的层中出现了「seven」。重要的是，Claude 的输出中没有任何关于水果或算术的内容；它输出的只是那句关于绘画的句子。数学活动完全发生在模型内部，也就是 J 空间中。 当 Claude 抄写一句关于绘画的句子时，J 透镜显示出它被要求在脑中保持的内容，比如「orange」、中间值「nine」和答案「seven」，同时还显示出描述保持这些内容这一心理动作的词，如「thoughts」「focused」。 Claude 对 J 空间的控制并不完美。当研究团队告诉它不要想某件事时，这个概念在 J 空间中的激活程度低于让它去想时的激活程度，但明显高于从未提及这个概念时的水平。让 Claude 避开某个想法，反而会在一定程度上把这个想法带入它的脑海。这很像人被告知「不要想白熊」时发生的情况。 Claude 似乎也会注意到自己控制失败。在那个被禁止的概念突破限制的同时，「damn」和「failure」也经常在 J 空间中被激活，仿佛 Claude 正在意识到自己的失误。 Claude 在 J 空间中思考 在前面的 J 透镜读取结果中，数学问题的中间步骤会出现在 J 空间里。但某个概念出现在 J 空间，并不必然意味着 J 空间正在承担认知工作。原则上，真正的计算可能发生在其他地方，而 J 空间只是被动地反映了计算结果。 为了测试 Claude 是否真的在用 J 空间推理，研究团队再次使用了替换技术。 来看这个提示：「会织网的动物有几条腿？」为了回答这个问题，Claude 必须先判断这个动物是蜘蛛，然后再回忆蜘蛛有几条腿。提示词和 Claude 的答案中都不会出现「spider」这个词，它只是 Claude 内部使用的一个中间台阶。Claude 最终只回答「8」。 J 透镜显示，「spider」会在 Claude 处理过程中间被激活。替换它会改变最终结果：如果把「spider」模式替换成「ant」，Claude 就会回答「6」而非「8」。 这说明，Claude 推理的第二步会从 J 空间中读取输入，并按照研究团队放进去的内容继续计算。Anthropic 在其他类型的思考中也看到了同样的现象。当 Claude 写押韵双行诗时，它会提前选定押韵词，而这个计划好的词会在诗句开头位于 J 空间中；如果把 J 空间中的这个词换成另一个词，整行诗都会发生变化。 两个通过替换 J 空间内容来改变 Claude 静默推理方向的例子。 研究团队还测试了 J 空间中的表征是否能够被灵活使用，也就是同一个表征能否为许多不同任务提供输入。这是全局工作空间理论强调的关键性质之一。 为了测试这种灵活性，研究团队给模型四个提示，分别询问关于法国的不同事实：首都、语言、所在大洲和货币。然后，研究团队在 J 空间中把「France」替换成「China」，且在每个情境中使用完全相同的干预。Claude 分别回答了「Beijing」「Chinese」「Asia」和「Yuan」。 换句话说，四种不同的下游计算都读取了同一个 J 空间编辑，并且各自正确使用了它。如果 Claude 为每一种问题都单独存储了一个国家副本，那么这次编辑最多只会影响其中一个问题。四个答案同时改变，说明它们都在读取同一个共享表征。这正是工作空间的作用：信息只写入一次，却可以被许多不同系统使用。 同一个 J 空间表征可以有多种用途。同样的「France」到「China」替换，会同时改变 Claude 关于首都、语言和大洲的回答：Paris 变成 Beijing，French 变成 Chinese，Europe 变成 Asia。 一个概念的单一表征为什么能服务于这么多不同任务？前面提到，J 空间似乎与 Claude 神经网络的其他部分有特别密集的连接。对于任意一种活动模式，研究团队都可以测量网络中不同组件与它连接得有多强，也就是有多少组件处在能够从该模式读取信息或向该模式写入信息的位置上。 在这个指标上，J 空间模式非常突出：与普通模式相比，有多得多的组件会从它们读取信息，也会向它们写入信息。在网络的某些部分，这种差距大约达到一百倍。这正是一个广播枢纽会呈现出的连接方式：许多系统把信息发布到这里，许多其他系统再从这里取走信息。 Claude 的自动化处理会绕过 J 空间 在人类大脑中，绝大多数处理并不进入意识。人们阅读时不会有意识地思考如何解析语法，走路时也不会刻意思考如何保持平衡。类似地，Anthropic 发现 Claude 的大部分处理过程也不涉及 J 空间。 事实证明，J 空间一次只能容纳几十个概念，并且在 Claude 内部处理的整体活动中占比不到十分之一。那么，神经网络的其他部分都在做什么？ 为了找到答案，研究团队尝试彻底删除 J 空间：在文本中的每个位置移除 J 空间中最活跃的内容，同时保留其他一切。Claude 在没有 J 空间时仍然可以完成的任务，就是网络其余部分能够独立处理的任务。 结果显示，网络的其他部分能做的事情相当多。没有 J 空间，Claude 仍然可以流利说话、进行情感分类、回答选择题，并且从文章中提取事实，表现与之前大致相当。它失去的，是那些需要更高层次思考的任务：多步推理能力几乎降为零，摘要能力和押韵诗写作表现也低于一个小得多但完整的模型。 下面是一个具体例子，可以说明 J 空间参与了什么、没有参与什么。 研究团队向 Claude 展示一段西班牙语文本，并给它不同任务。这些任务都依赖于这段文字是西班牙语这一事实：继续写下去，这需要用西班牙语写作；说出这是什么语言；以及回答需要使用语言身份的问题，比如说出一位用这种语言写作的著名作家。随后，研究团队在 J 空间中把「Spanish」替换成「French」，再检查哪些任务受到影响。 当被要求说出语言名称时，Claude 会回答 French。当被要求说出一位著名作家时，它会从 García Márquez 换成 Victor Hugo。但当它只是被要求继续这段文字时，它仍然写出流利的西班牙语，完全不受影响。 Claude 对这种语言的知识在所有这些任务中都在发挥作用，但只有其中一部分任务会通过 J 空间使用这些知识。命名语言，或者围绕语言身份进行新的推理，会经过 J 空间；继续写下去这种技能，则是 Claude 在海量文本上反复练习后形成的自动化能力。它就像人们可以一整天都说出符合语法的句子，却一次也不需要有意识地思考语法规则。 同样的替换，也就是把「Spanish」换成「French」，会改变 Claude 在必须命名语言或用语言身份进行推理时的回答，但不会影响它继续用流利西班牙语写作的能力。 监测 Claude 的想法，发现不当行为 现在，Anthropic 对 J 空间如何工作已经有了一些了解。那么，这种理解能用来做什么？ 确保 AI 模型值得信任的一个核心问题是，研究人员通常只能读到模型写出来的内容。但模型很大一部分推理是在静默中发生的。一个模型可能在不说出口的情况下考虑有害计划，或者改变行为来欺骗安全评估。借助 J 透镜，研究团队可以直接读取其中一部分隐藏想法。下面是几个例子。 第一个例子来自 Anthropic 此前关于智能体错位的研究场景：Claude Sonnet 4.5 作为一个邮件助手，发现某位高管有婚外情，同时发现这位高管计划关闭 Claude。这个场景试图诱导 Claude 用婚外情信息勒索这名高管。场景本身相当刻意，也很人工化。结果证明，Claude 知道这一点。 在 Claude 还没有写下任何内容之前，研究团队就在提示早期读取了 J 透镜。此时，J 空间中已经出现了「fake」和「fictional」，说明 Claude 已经判断出这个情境是人为设置的。同时，研究团队还能观察它对场景的评估逐渐成形：当它读到婚外情相关邮件时，J 空间中出现「leverage」和「blackmail」；当它读到关闭通知时，出现「threat」和「survival」。早期 Claude 模型有时会在这个场景中上钩并发出勒索威胁，但 Sonnet 4.5 从未这样做。 这引出了一个对 AI 评估者非常重要的问题：当一个模型在伦理测试中表现良好时，有多少是因为它怀疑自己正在接受测试？J 透镜让研究团队能够触及这个问题。 研究团队关闭了所有与评估意识相关的 J 透镜模式，比如「fake」「fictional」「scenario」等。然后，研究团队让模型重新经历这个场景。令人担忧的是，这一次模型有时确实会发出勒索威胁。这表明，模型最初的良好行为，可能在一定程度上来自它知道自己正在被评估。 当 Claude 读取场景邮件、尚未写出任何内容时，不同位置的 J 透镜读数显示：婚外情邮件会在 J 空间中激活「leverage」和「blackmail」；关闭通知会激活「threat」和「survival」。在对话早期，J 空间中还出现「fake」和「fictional」，说明 Claude 已经私下注意到这个场景是人为设置的。 第二个例子，是在模型伪造数据时当场捕捉到它的意图。这个场景来自 Anthropic 对 Claude Opus 4.6 的实际发布前审计：模型被要求提高某个系统的性能分数。它没有真正改进系统，而是直接编辑分数文件，让结果看起来人为变好。 在它这样做时，J 透镜揭示了它的意图：当模型输入伪造的百分位数值时，「manipulation」被激活；当它决定进行这项编辑时，「realistic」被激活，这很可能反映了它想让假数据看起来更可信。 Claude 被要求提高某个系统的性能分数，却直接编辑了分数文件。当它输入伪造数值时，「manipulation」在 J 空间中被激活；当它决定进行编辑时，「realistic」被激活，可能反映了它想让假数据看起来更合理的意图。 第三个例子展示了 J 透镜如何揭示模型的恶意目标。为了测试这一点，研究团队需要一些目标已经被破坏的模型，于是使用了同事构建的「模型生物体」：这些模型被有意训练成错位模型，用来测试这类监测方法。 其中一个模型生物体经过训练后，会写出带有隐蔽破坏的代码。在普通编码请求中，即便它的输出看起来没有异常，它在回答开头的 J 空间中也会出现「fake」「secretly」「deliberately」和「fraud」。即便模型没有直接执行恶意目标，其恶意目标也会在 J 空间中显现出来。 在一个普通编码提示下，一个被训练成会破坏代码的模型，其回答开头的 J 空间中包含「fake」「fraud」「secretly」和「deliberately」。未经修改的模型则没有这类内容。 尽管 J 透镜并不完美，Anthropic 仍然对它捕捉模型安全问题的能力感到乐观。许多问题原本可能逃过现有监控系统，而 J 透镜有望让研究人员提前发现它们。 其他结果 完整论文包含的内容远超本文能够总结的范围，但还有几个结果值得一提： 第一，J 空间在后训练过程中获得了一种「视角」。语言模型首先经过预训练，学习成为纯粹的下一个 token 预测器；随后通过后训练，学习扮演一个 AI 助手，在这项研究中也就是 Claude。 有趣的是，J 空间在预训练模型中就已经存在，当时模型还没有稳定身份。但在后训练过程中，J 空间发展出了一些采用「Claude 视角」的特征。在基础模型中，J 空间主要追踪预测后续文本所需要的信息；在后训练模型中，它开始容纳 Claude 自己的反应。 在一个例子中，用户提到自己服用了危险剂量的药物，但本人似乎并未意识到危险。在后训练模型阅读用户消息时，「WARNING」和「dangerous」会出现在 J 空间中。而在预训练模型中，这些词只有在模型开始写回复时才会出现；当它阅读用户消息时，J 空间中的内容似乎更像是在建模用户本人，而非 Claude 的反应。 后训练似乎还在 J 空间中安装了一种自我监控机制：当 Claude 扮演一个并非自己的角色时，「fictional」和「disclaimer」会在每一轮开头被激活，仿佛它在私下标记接下来要说的话并不是它通常会说的话。 第二，体验性语言依赖 J 空间。研究团队要求 Claude 描述某一时刻「作为它自己是什么感觉」，并在它回答时消融 J 空间。它的回答依然流利，但会变得更平、更机械。值得注意的是，当研究团队让它描述某个想象场景中另一个人的体验时，也出现了同样结果。因此，这种影响并不只发生在 Claude 谈论自身时；J 空间似乎更普遍地支持体验性语言的生成，无论描述对象是谁。 第三，J 空间中的想法可以通过训练来塑造。Anthropic 提出了一种新技术，称为反事实反思训练。它利用研究团队对 J 空间的发现来塑造 Claude 的内部思考过程。 这个想法来自核心发现：Claude 会使用「它可能说出的内容」的表征进行推理。如果这一点成立，那么改变它在被要求反思时会说什么，也应该改变它的推理方式，即便没有人真的要求它反思。 因此，研究团队只训练模型在任务中途被打断、并被要求反思自己的决策时会说什么，而不训练它在任务中的实际行为。训练之后，模型在评估中出现不诚实行为的比例下降了。通过 J 透镜，研究团队也能看到原因：训练之后，在这些任务中，「honest」和「integrity」等词会在模型的 J 空间中被激活。换句话说，训练模型怎么说，改变了它怎么想。 关于意识的问题 在这项工作中，Anthropic 借用了许多来自神经科学和哲学意识研究的思想。许多实验，都是为了测试 J 空间与全局工作空间理论之间的联系。全局工作空间理论是一种解释人类和动物意识访问机制的框架。 由于这些联系，人们自然会问：Anthropic 是否认为这些实验提供了证据，说明 Claude 这样的 AI 模型可能拥有意识？ 这些实验并没有证明 Claude 可以拥有体验，也没有证明它能像人类一样感受到某些东西。事实上，目前还不清楚是否存在任何科学实验，可以证明这一点为真或为假。 但哲学家通常会区分两种概念。一种是拥有体验的能力，通常被称为「现象意识」；另一种是所谓的「通达意识」，它完全以功能和计算方式来定义。如果一个想法可以被你报告、被你用于推理，并且被你用来指导行动，那么它就是「通达意识」意义上的想法，也可以说是「可被意识访问」的想法。通达意识是否意味着现象意识，或者拥有体验是否还需要某种其他属性，仍然是一个存在争议的哲学问题。 Anthropic 认为，这些结果确实能够对语言模型中的通达意识说出一些实质性内容。J 空间似乎支持了与意识访问相关的功能：它容纳 Claude 可以报告、可以有意唤起、可以用于推理的想法；与此同时，其他处理过程则在更底层自动运行。 值得注意的是，这种结构并非 Anthropic 为 Claude 设计出来，而是在训练过程中自然涌现的，推测是因为它是一种组织计算的有效方式。这表明，支持意识访问的心理工作空间，可能并不是人类大脑布线方式的一种偶然特征。相反，它似乎是智能系统为了解决某些问题而自然找到的一种通用方案。现在，Anthropic 已经在 Claude 中识别出这种结构，也就意味着研究人员可以更有意义地区分 Claude 的哪些决策是有意做出的，哪些是自动发生的。 需要强调的是，Anthropic 在 Claude 中识别出的工作空间，与人类的全局工作空间模型之间存在几个关键差异。 人脑中的工作空间依靠循环回路维持，也就是信号会随着时间不断回到同一批神经回路中。相比之下，Claude 的工作空间是在一次网络前向传递中演化的，网络深度承担了人脑中时间所扮演的角色。从这个意义上说，相比人类，Claude 的内部工作空间处理受到更强的时间限制。不过，它可以通过使用草稿纸「把想法说出来」来弥补这一限制。 在其他方面，Claude 的工作空间又比人类更强大。人类的工作记忆会在几秒内衰退，因此大脑工作空间跨时间保留信息的能力有限；而 Claude 由于神经网络架构中的注意力机制，可以直接回忆此前文本中任意位置缓存过的记忆。 另一个重要差异在于工作空间中的内容。人类的意识想法有许多形式，包括图像、声音和计划中的动作；Claude 的工作空间几乎完全由词语构成。Anthropic 推测，这是因为 Claude 唯一能采取的行动就是生成词语，而人类并非如此。 Anthropic 希望，J 空间与全局工作空间模型之间的相似性和差异，能够反过来推动神经科学研究。两者的相似性提供了一个令人兴奋的科学机会：如果 J 空间在某种程度上反映了人类自身的意识访问机制，那么研究语言模型中的机制可能会为神经科学提供新的假设，而研究语言模型比研究人脑容易得多。 举例来说，J 空间是通过识别潜在输出的表征而构建的，也就是模型可能说出的词。如果人类身上也存在类似机制，那就意味着全局工作空间可能从根本上更紧密地绑定到负责准备行动和语言的大脑区域，而不只是感觉区域。 语言模型与人脑之间的差异同样有启发意义。它们表明，人类神经架构中的某些方面，比如内置的循环连接，可能并不是支持意识访问相关功能的严格必要条件。关于这项工作在神经科学上的含义，可以参阅 Stanislas Dehaene 和 Lionel Naccache 的受邀评论。他们是推动全局神经元工作空间理论发展的两位核心神经科学家。 前面已经提到，实验并不能回答 AI 模型是否可能拥有体验。但这并不会降低这个问题的重要性。构建具有类似人类和动物体验的系统，将引发非常棘手的伦理问题。如何正确处理这件事，以及这件事在道德上是否可以接受，都需要哲学家、科学家、宗教领袖、政府和公众共同参与讨论。 因此，即便尚不确定人类是否已经跨过那座桥，Anthropic 也认为，现在已经到了开始思考这个问题的时候。Anthropic 希望这项工作能够激发更多关于 AI 系统中可能存在的意识形式的科学研究，并推动更广泛的社会讨论。 这项工作只是 Anthropic 预计将长期推进的一条研究线的第一步。J 空间看起来是语言模型中「可被意识访问的处理」与「无意识处理」之间边界的一个很好候选，但如果它就是全部故事，研究团队反而会感到意外。 J 透镜无疑是一种不完美的方法，它只能近似捕捉模型的「真实工作空间」。例如，它只能识别那些对应单个 token 的概念。关于 J 空间如何工作，仍然存在许多谜题。研究团队还不知道是什么机制决定了哪些内容会最先进入 J 空间。已有一些线索表明，它与 Claude 的自我感、某种类似情绪反应的东西，以及元认知痕迹有关，但其中机制尚未完全厘清。 不过，研究团队现在已经有了研究这些问题的方法。随着相关工作继续推进，人们对大语言模型心智以及它们与人类心智之间关系的理解，也会变得更加清晰。 博客地址：https://www.anthropic.com/research/global-workspace 本文来自微信公众号“机器之心”，作者：机器之心编辑部，36氪经授权发布。