杨立昆刚骂完AGI，Anthropic就找到了AGI的证据

AI到底还是太能往深里挖了，因为Anthropic挖着挖着，发现了一个非常“AGI”，但是细思极恐的事情。 说在Claude里，有一个叫J-space的区域。它会控制Claude思考和推理，一旦没有J-space，Claude会立马变成“人工智障”，只能回答幼儿园水平的问题。 这不是重点，重点是，Anthropic从没有给Claude设计过J-space，一切的一切，都是Claude它自己在长年累月的训练中“长”出来的。 为此，Anthropic发表了一篇论文，标题叫《语言模型中的全局工作空间》。 在这篇论文中，Anthropic虽然探讨了J-space对Claude的影响，并且还专门设计了一个工具，用于观察J-space。可文章写到最后Anthropic也没研究明白，J-space到底是怎么来的。 这就好比咱们人类细胞里的线粒体，绝大多数细胞都靠线粒体供能。 根据研究发现，线粒体一开始并不存在于细胞质中。主流理论认为，线粒体原本可能是一种独立细菌，后来被更大的细胞吞进去，双方形成共生关系，最后成为了如今细胞里的一部分。 可线粒体到底来自哪里，依旧无人知晓。 还没完，就在Anthropic发表这篇文章的前几天，杨立昆才刚刚怼了一把现在的AGI，并在X上写到“AGI里的“G”是胡扯。” 01 Anthropic在Claude里发现了AGI 要理解J-space是什么，得先从咱们人类自己开始说起。 此刻正在读这句话的你，大脑其实同时在做好几件事，包括调整坐姿、控制呼吸、把屏幕上的线条认成文字。 但是这些事你根本感觉不到，它们在后台自动运行。这个过程叫做“无意识处理”。 但大脑里还有另一类活动，是你能意识到的。 就拿我亲身经历的例子来说明，周一开会的时候，同事提了一嘴“机架”，因为临近午饭时间，我把机架理解成“鸡架”，然后瞬间就感觉到肚子饿了。这个过程叫做“可访问意识”。 Anthropic发现，Claude的内部也出现了类似的分界线。 大部分Claude做的事，比如流畅说话、查简单事实、用对语法，它都是自动处理，像你的呼吸一样在后台跑。 但Claude内部还有一小部分活动很特别。它们不像普通后台计算那样分散，而是会集中到一个可以被读出来的“概念空间”里。Anthropic把这个空间叫作J-space。 J-space里的每一个模式都对应一个词，但这个词亮起来的时候，并不意味着Claude正在“说”这个词，而是这个词“在它脑子里”。 可能这句话有点难理解，我给你举个例子你就懂了。比如你问Claude，能结网的动物有几条腿？它会回答你8条腿。 但研究者在它的J-space里先看到的是spider（蜘蛛）这个词，然后Claude再根据蜘蛛有8条腿，回答你说8条腿。 还有一个非常关键的细节，J-space并不是Anthropic设计出来的，它是Claude在训练过程中自己长出来的。 Anthropic用来观察J-space的工具叫“Jacobian透镜”，简称J-lens。 Claude内部的想法不是文字，而是一大堆数字。J-lens的作用，就是把这些数字翻译成人能看懂的词。 通过这个J-lens，Anthropic的研究员发现，Claude在读一段有bug的代码时，即使没人告诉它哪里错了，J-space里也会冒出“ERROR”这个词；它读一串蛋白质的原始字母序列，J-space里出现蛋白质的生物功能；它读到搜索结果里藏着提示词注入攻击，J-space里会亮起“injection”和“fake”。 但最有说服力的实验，是“偷梁换柱”。 回到刚才蜘蛛的那道题，研究者没有改题目，而是把J-space里的“spider”换成了“ant”（蚂蚁），Claude的答案立刻变成了“6”。 另一个实验里，“France”在J-space里亮起来后，Claude能回答法国的首都、货币、所在大洲。研究者把“France”换成“China”，所有答案也都跟着变了。 这说明J-space不只是记录结果，它参与了后续推理。 Anthropic总结了J-space的五个特征，每一个都对标人类认知科学里“意识可访问信息”的性质： 1.Claude能报告J-space里的内容（你问它在想什么，它会说出J-space里的词） 2.它能在要求下主动调动J-space（让它默默心算，J-space里就会出现算术过程和中间结果） 3.它用J-space做内部推理 4.J-space里的一个概念能灵活地服务于多种任务 5.J-space是有选择性的，大部分Claude做的事根本不经过它。 为了研究J-space对Claude的影响，研究者把J-space暂时关掉，发现Claude还能回答简单问题，比如认情绪、答常识、判断语法。 但一遇到需要多步思考的任务，比如推理、类比、翻译、写诗，表现就大幅下降。也就是说，J-space很像Claude的“草稿纸”，不用草稿纸的小事还能做，可需要草稿纸的复杂题就回答不出来了。 种种迹象都在说明，J-space和人类的思考方式有相似之处，但前面也说了，这并不是Anthropic有意为之，甚至都没有做过类似的设计，一切都是Claude自发形成的。 那说到这里，就不得不提一嘴AGI了，因为J-space非常像是Claude接近AGI的一种证明。 过去我们判断模型是不是AGI，主要看外部表现，比如能不能做数学题，能不能写代码，能不能通过考试。但是现如今，Claude“长”出J-space的这种自发性，很可能才是AGI。 模型强，不只是因为它输出更像人，而是因为它内部可能已经形成了某种可复用的思考结构。它能暂存概念，承接中间结果，把不同信息组织到一起，再影响后面的回答。 就像我们有眼睛鼻子嘴一样，J-space很可能就是AGI的一个“器官”。没有它，模型还会说话；有了它，模型才更可能把语言、知识和推理串成稳定的思考过程。 02 杨立昆在X上把AGI怼了个底朝天 好巧不巧。 就在Anthropic发表J-space论文的前几天，图灵奖得主、深度学习三巨头之一的杨立昆（Yann LeCun），在X上把AGI这个概念怼了个底朝天。 时间线是这样的，2023年的时候，杨立昆在巴黎的VivaTech科技大会上接受采访，公开说ChatGPT、Claude和Gemini“不是通向人类级智能或类人智能的道路，甚至连动物级智能都算不上，因为它们无法处理真实世界的数据，它们根本不是为此设计的”。 到了今年6月的VivaTech，杨立昆又再次重复了这个论调。 7月4日，他在X上表示，称“The G in AGI is nonsense.”（AGI里的“G”是胡扯。） 杨立昆认为，会考试不等于有智能。 硅谷的逻辑是模型过了律师考试、数学竞赛、博士题、编程benchmark，所以接近AGI了。 但杨立昆表示，考试题是语言化的、离散化的、答案明确的任务，恰好是大语言模型最擅长的东西。可真正的智能还应该有感知、物理直觉、因果理解等等这些来自于常识的能力。 他曾在采访举过一个例子。杨立昆拿起一支笔，把它竖立在笔尖上，问：“松手会怎样？任何一个小孩子都知道笔会倒。但没有人会去猜笔往哪个方向倒——因为没法预测，取决于太多物理细节。” “一个大语言模型会怎么做？它会根据训练数据里的统计模式，生成一个看起来合理的预测。但那个预测几乎肯定是错的，因为它不是在推理物理现实，而是在做统计补全。” 杨立昆认为，Agent应该通过观察世界，学习世界如何变化，然后在内部做预测、做规划，最后采取行动。 大语言模型虽然学到了大量语言和知识模式，但在杨立昆看来，这不是在理解世界本身，只是一个用来交互的界面而已。 杨立昆在2025年底离开了Meta，创办了AMI Labs（Advanced Machine Intelligence Labs），总部在巴黎，2026年3月拿了10.3亿美元的种子轮融资，是欧洲历史上最大的种子轮，投资方包括英伟达和贝索斯。 AMI Labs做的就是用JEPA架构，让AI系统从感知数据中学习因果和规划。 还有一点，杨立昆不认为继续scaling就会自动AGI。 事实上，无论是OpenAI，还是Anthropic，大家都认为继续去堆算力、堆模型性能，AGI就会自动涌现。 可杨立昆却觉得这条路会撞墙。他的观点是，语言数据不够承载真实世界的全部，纯自回归预测也不是一种高效的推理方法。 最后，比起反对AGI，杨立昆更讨厌硅谷“AGI毁灭人类”的末日论。 杨立昆经常给马斯克、辛顿、阿莫迪等人唱反调。不是因为他觉得AI永远没风险，而是因为他认为当前系统离真正自主的智能还差太远。 在他看来，把今天的大语言模型描述成即将失控的AGI，是严重给AI“抬咖”。基于这个观点，杨立昆还警告称，AI泡沫终究会彻底破裂。 不用猜也知道，杨立昆在看了J-space的论文后，肯定又在暗地里骂阿莫迪没水平了。 本文来自微信公众号“字母AI”，作者：苗正，编辑：王靖，36氪经授权发布。