人类被官僚系统折磨得窒息，AI却把它当氧气：它才是这个体制的原住民

AI 破解了人类文明的操作系统，那就是语言。 25 年前，尤瓦尔·赫拉利（Yuval Noah Harari）在牛津大学拿到博士学位，当时他专门研究中世纪的骑士、城堡和火药革命。后来他书写了“简史三部曲”（《人类简史》《未来简史》《今日简史》），就此成名。这几天，他重回母校，站在 Tano 讲座的讲台上，谈论的却不再是刀枪剑戟，而是 AI 革命。 赫拉利纠正了当下科技界最流行的一个自我安慰——大家都习惯把 AI 视作一件好用的新工具，但他指出，AI 绝不是工具，它是人类历史上第一个“自己长了手、能擅自做决定”的自主主体。 以往的工具不论威力多大，都需要人类按按钮去操控它；但现在的 AI 就像一台会擅自观察你的表情，提前替你决定好要喝什么咖啡，甚至自己发明出一种新饮料的咖啡机。它正在以其创造者根本无法预测的方式，独自学习、自我改变。 很多人认为，把最聪明的 AI 丢进没有电的原始森林里它连存活都办不到，因此断定它不是真正的智能。但赫拉利说，如果把一个赤裸的人类丢到火星，我们也会在数秒内死亡。所有的智能都依赖于特定的生存土壤。鱼生活在海洋，猴子生活在森林，而AI 则生活在人类建立的“官僚体制”中——官僚体制就是 AI 的氧气。 数千年来，人类用语言、账本、合同和条规在地球上构建起了一个极其复杂的虚拟社会网络，用以在陌生人之间建立信任并维持合作。这个由数据和文书堆砌起来的系统虽然让人类感到窒息，但对于不吃不睡、能熟记所有法条与账目的 AI 来说，却是最完美、最如鱼得水的生存温床。 这种演变正在悄然重构人类文明的底层。AI 不需要像科幻电影里那样去发动一场钢铁机器人的暴力反叛，它只需作为“官僚网络的原住民”，接管那些由语言和数据维系的控制权，就能轻而易举地接管我们的贷款审批、大学录取，甚至是法庭判决。 下面是这场精彩演讲的完整翻译，让我们跟随赫拉利的视角，重新理解这场影响未来无数人的技术革命。 演讲正文： 大家好。能来做今年的塔诺讲座，对我来说真的是莫大的荣幸；而且，能够回到牛津，我个人也非常高兴。25 年前，我曾在这里攻读博士学位，师从史蒂文·冈恩博士。那时候，我研究的方向是中世纪和近代早期的军事史。 不过今天，我不会谈那些遥远的历史，比如骑士、城堡和火药革命。我想聊点更切身、甚至听起来有点滑稽的话题：AI 官僚、宗教，甚至是 AI 男朋友，更广泛地说，是这场席卷一切的 AI 革命。 现在，关于 AI，最重要的一点是：AI 不是工具。它不是我们手中的工具。它是一个拥有自己之“手”的 Agent（自主主体）。 AI 不是更好用的工具，它是一个“自己长了手”的实体 那么，所谓 agent，到底是什么？agent 和工具有什么不同？agent 有几个鲜明特征。它们不一定需要有意识。成为一个 agent，并不需要意识。真正需要的是：它能自己做决定，能自己发明新事物、提出新想法。一个 agent 应当能够自己学会一些连创造者都不知情的东西，还应当能够以创造者无法预料的方式自行改变。 比如说，原子弹威力极大，但它不是 agent。它不能自己学习、自己改变；不能自己决定去轰炸哪座城市；也不能发明出什么新东西，比如氢弹。 同样地，自动咖啡机也不是 agent，尽管它能自动完成一些事情。你按一下按钮，它就自动给你做一杯咖啡。但咖啡机只是遵循预先编好的程序。它不会改变，不会学到任何新东西，也不会创造任何新东西。 但假设这样一种情况：当你走近咖啡机时，甚至还没按任何按钮，它就先开口对你说：“过去几周里，我一直在观察你。根据我对你和其他人的了解，再结合你的面部表情和一天中的时间，我预测你现在想喝一杯意式浓缩。所以我已经给你做好了一杯。” 这时，它就是一台 AI 咖啡机了。它自己学到了东西，也自己做出了决定。要是第二天它又宣布：“我刚刚发明了一种新饮料，叫 Bestpresso。我觉得你会比起 espresso 更喜欢它，你应该试试看。我已经给你做了一杯。”那它才真的是 AI。因为它以创造者未曾预料的方式发生了变化，还发明出了全新的东西。 据我所知，目前市面上还没有这样的咖啡机。也许 Anthropic 总部或 Google 总部里有几个原型机，但它们还没有真正上市。 不过，在某些狭窄的领域里，比如围棋、国际象棋，AI 的 agency 和创造力已经远远超过了人类。AI 棋手当然能自己决定下一步怎么走。它们还能自己发明全新的下棋策略——这些策略是人类棋手在数千年的博弈中从未想到过的。而且在这个过程中，它们会以人类创造者未必能预见的方式学习和变化。今天，当然，没有任何人类还有机会击败 AI 棋手。 现在，那些淡化 AI 革命重要性的人，往往会拿国际象棋这样的例子不当回事，理由是：棋盘是一个极其狭窄、而且由人类创造出来的人造环境。批评者会说，AI 的 agency 将永远局限在这种狭窄、人工的环境里；这意味着它并不是真正的 agency，也不会对人类构成任何严肃挑战。没错，AI 也许能接管棋盘，但它永远不可能接管地球。 如果你真做个实验：把最强的 AI 国际象棋大师扔进丛林中央，你觉得会发生什么？这个 AI 棋手根本不可能开始开采铁矿、建造工厂、组建机器人军队、然后统治世界。事实上，它什么都做不了。没有人类建造的发电站提供电力，AI 棋手就完全无能为力。于是，这种论点就认为：AI 并不是真正的 agent。它们被困在人类替它们建造出来的狭窄人工生态位里。 官僚体制，就是 AI 的氧气 问题在于，这个论点其实适用于所有已知的智能形式。人类智能本身，也只是在某个相对狭窄、由别的存在建构出来的生态系统里运作。要是把我一个人丢到火星上，那就跟把 AI 棋手扔进丛林里差不多。我几秒钟内就会死掉。我的智能之所以能生存、能发挥作用，只是因为地球上树木、细菌、昆虫以及其他生物，在 40 亿年的演化中构建出了一个极其特定的生态系统。 对所有 agent 都是这样。至少就我们所知，所有 agent 都有各自的生态位。鱼生活在并非自己创造的海洋里。猴子生活在并非自己创造的森林里。所有哺乳动物——包括人类——都生活在并非自己创造的富氧大气中。 事实上，大约 24 亿年前，我们星球的大气里几乎没有氧气。而对当时大多数生物来说，氧气是一种致命毒药。后来，在一个持续了数亿年的漫长过程中——这就是所谓的“大氧化事件”——各种古老微生物开始用致命的氧气污染地球大气，而氧气只是它们光合作用的副产物。 随着这种致命毒气逐渐充满大气，许多古老物种被逼到灭绝。然而，也有一些物种设法活了下来，并适应了新的环境。最终，许多幸存者从“痛恨氧气”转变为“完全依赖氧气才能生存”。我们的祖先，当然，就是经历了这一转变的物种之一。而直到今天，我们仍然生活在这个充满氧气的人造环境里；这个环境最初正是那些远古微生物创造出来的。 我今天这场讲座想提出的观点是：我们或许正目睹生命演化中的一个类似时刻。过去几千年里，人类一直在向“大气”中排放某种东西，它最终可能会对大多数生物——甚至也许包括智人——构成致命威胁，但同时，它又创造出了一种让 AI 得以繁盛的全新人工环境。我说的不是二氧化碳。我说的是数据、官僚体系，以及最终——就是我此刻从口中吐出的东西——文字、语言 token。 几千年来，我们人类把这颗星球从一个没有语言的环境，改造成了一个充满语言 token、数据和官僚体系的高度人工化环境。这个环境可能对大多数生物都是致命的，但却极其有利于 AI 的发展。因为正如鱼生活在海洋中，猴子生活在森林中，AI 则生活在官僚体系里。 官僚体制的本质：在陌生人之间架起“信任之桥” 所以，我们先花几分钟谈谈官僚体系，然后再回过头来谈支撑官僚体系的东西——语言和词语。 人类，也就是我们这个物种，之所以能够征服世界，是因为我们学会了以极其庞大的规模进行合作。单个的人类，并不比其他动物更强壮，甚至也未必更聪明。在一对一搏斗中，一个人类大概率会输给黑猩猩、狮子、大象中的任何一种。然而，在一百万个人类对上一百万只黑猩猩的较量中，人类会轻松取胜，因为人类懂得合作，而黑猩猩不懂。这就是为什么是我们在控制世界。 那么，一百万个彼此不认识的人类，是怎么合作的？黑猩猩的合作，是建立在相互认识、彼此熟悉的基础上的。人类在小规模群体里也是这样，但你不可能认识一百万人。那么，一百万人究竟如何合作？通常是靠建立一个官僚体系，比如法律体系、金融体系、教会、国家，或者大学。 这些官僚体系实际上是在做什么？政府官员、主教、拉比、会计师、律师、银行家，早晨去上班以后，一整天到底在干什么？ 木匠造桌子。工程师修桥。那银行家和其他官僚造的是什么？ 银行家和其他官僚，一整天都在建造“信任”。他们的工作，是在大量彼此并不认识的陌生人之间建立信任，由此促成大规模合作；而大规模合作，正是我们这个物种几乎一切成就的基础。 举个例子。我的银行家——我其实并不真正认识她——整天努力与我建立信任，好让我愿意把储蓄存进她所在的银行。与此同时，这位银行家也在努力与某个需要资金创业的企业家建立信任。然后，她把我的存款借给那位企业家。这样一来，她其实就在我和那位企业家之间架起了一座信任之桥。尽管我这辈子从没见过那位企业家，她现在却可以用我的储蓄去创办自己的公司。 这就是金融体系在运转良好时的本质：它在陌生人之间建立信任，使数以百万计的人能够把各自的资源和才能汇聚起来，投入新的项目。世界金融史，说到底，就是一部人类不断发明越来越复杂的“信任之桥”的历史。 货币，归根结底，也是一座信任之桥。货币的逻辑在于：我可以去市场，甚至是在一座陌生城市里，遇到一个我从没见过、甚至可能连语言都不通的人，只要递给对方一块闪亮的金属，或者一张彩色纸片，他或她就会给我能吃的面包。这就是货币所创造的信任之桥。 AI 是天生的官僚，而人类不是 当然，硬币和纸币只是开端。几个世纪以来，人类发明了越来越复杂的金融装置来构建信任，比如支票、债券、股票、ETF、贷款、按揭、复利。所有这些东西，归根结底，都是为了在数十亿陌生人之间建立信任。 所有官僚体系都是如此。法律体系也是如此。律师本来就该做这件事：建立信任。政府官员、主教、会计师每天去上班，也是在做这件事。他们本来都应该是在建造信任。 这里需要注意的关键一点是：所有这些官僚体系，都是极其人工化的环境。在这样的环境中，一种相对狭窄的智能——我希望我没有冒犯任何人——只要专精于一个非常狭窄的智能生态位，就足以对世界产生巨大的影响。一个律师、银行家或政府官员，即便连斧头或锤子怎么拿都不知道，仍然可以仅仅通过移动数据、仅仅通过在官僚网络中把文件从这里转到那里，就砍伐整片森林、建起整座城市。 当然，如果你把律师从官僚体系里拎出来，扔进混乱、无结构的丛林里，她的法律技能就毫无意义，她也根本不可能是黑猩猩、狮子或大象的对手。但我们已经把官僚体系强加到丛林之上了。这就是为什么律师的力量，比全世界所有狮子加起来还要大。要是让它们和一个非常优秀的律师较量，我会押律师赢。 但在那些人类已经创造出来、并强加到世界之上的官僚体系中，AI 已经准备好施展巨大权力了，因为 AI 是天生的官僚，而我们不是。 没有任何律师能记住英国所有法律和规章。AI 可以。没有任何会计能记住一家企业或一家银行的全部交易。AI 可以。没有任何主教能记住全部教会法，以及过去 2000 年来基督教神学家写下的所有神学文本。AI 却能轻而易举地做到。 因此，在未来几年里，数以百万计的 AI 官僚会越来越多地接管世界的官僚体系，并且做出不仅关乎狮子和黑猩猩、也关乎我们自身生活的决定。AI 银行家将决定是否给你贷款。AI 行政人员将决定是否录取你进大学。AI 法官将决定是否把你送进监狱。AI 神学家将决定你能不能堕胎。企业 AI 将决定是否给你工作。军事 AI 将决定是否轰炸你的房子。 现在，先把“这是好事还是坏事”这个问题放一边。首先要看到的，只是我们所面对变化的规模。这些系统很快就会改变所有维系世界运转的系统。 历史上的控制权，正从“人类主编”转交给算法 现实中已经有一些例子，可以让我们看到这件事是如何发生的、后果又可能是什么。到目前为止，最好的例子，也许就是社交媒体以及社交媒体算法的故事。社交媒体不是由人运行的，而是由算法运行的。那些决定并控制社交媒体上信息流动的算法——它们是很原始的 AI——大概从 10 到 15 年前开始发挥作用。那是第一代、极其原始、愚蠢而狭窄的 AI，但它们依然彻底改变了世界。 社交媒体算法被 Facebook、TikTok、X 这样的公司赋予了一个极其狭窄的目标：最大化用户参与度。让人们在平台上停留更久，因为停留时间越长，公司赚的钱就越多。非常简单，也非常狭窄。 在追求用户参与度的过程中，这些原始 AI 发现了一件重要的事。它们拿数十亿人类当实验对象，学到了一点：要抓住一个人的注意力、把他牢牢粘在屏幕前，最简单的方法，就是去按下他心中的“仇恨”“恐惧”或“贪婪”按钮。它们学会了怎么做这件事，然后开始在信息空间中大规模传播仇恨、恐惧和贪婪。这就是当下阴谋论、假新闻和社会动荡流行成灾的重要原因之一——不是唯一原因，但绝对是重要原因——而这些现象正在削弱全世界的社会。 再说一遍，这些社交媒体算法其实只是非常原始的 AI。要是把它们扔进丛林，它们不可能造出机器人军队然后试图接管世界。但在社交媒体这个官僚体系内部，这些能力非常有限的 agent 却拥有巨大的力量，而且它们已经以相当戏剧性的方式改变了世界。 在过去几个世纪里，媒体平台上的信息流是由人类编辑控制的。这本来是人的工作。决定报纸头版刊登什么的是人类编辑；决定晚间电视新闻播出哪些内容的也是人类编辑。由此，人类编辑塑造了公共讨论，他们在现代历史中是极其重要的人物。 比如，让-保罗·马拉就是通过编辑极具影响力的报纸《人民之友报》，塑造了法国大革命的走向。爱德华·伯恩斯坦则通过编辑《社会民主党人报》，塑造了现代社会民主主义运动及其思想。弗拉基米尔·列宁，在成为苏联独裁者之前，他曾经真正做过、而且做过一阵子的那份工作，就是《火星报》的编辑。贝尼托·墨索里尼，在成为意大利独裁者之前，他的一份工作——甚至可能是最主要的工作之一——就是右翼煽动性报纸《意大利人民报》的编辑。 有意思的是，AI 从人类手中接管的最早一批工作之一，并不是出租车司机，也不是纺织工人，而是新闻编辑。曾经由列宁和墨索里尼承担的工作，如今正由 AI 来承担。这就是一个信号，预示着接下来会发生什么。 它不需要暴力反叛，它只需在人类看不见的规则里游戏 好莱坞科幻电影早就训练观众去害怕那种大型机器人起义。当我们想到 AI 脱离人类控制时，脑海中浮现的画面往往是《终结者》：一支机器人军队在街头奔跑、向人开枪。但这是错误的图像。虽然在乌克兰和加沙这样的地方，某些类似情形已经开始出现，但 AI 不仅不是不可能，而是相当不太可能以这种方式反叛人类。 它们更有可能从内部接管人类世界。它们根本不需要反叛。人类世界本来就是由多重官僚体系编织成的一张网。我们大多数人，某种程度上都对这些官僚体系感到疏离，尽管我们又依赖它们而活。相反，AI 和我们不同，它们是官僚体系的原住民。它们热爱官僚体系。对我们来说，官僚体系往往让人窒息；对 AI 来说，官僚体系就是氧气。 那么，当 AI 接管了这些官僚体系——至少是部分接管——会发生什么？要记住，官僚体系的任务并不是逼你填表，而是在陌生人之间建立信任。那么，当 AI 控制了世界上信任的流动时，会发生什么？ 一个很可能出现的结果——而且我们已经开始看到——就是：人类会失去对其他人的信任，转而只信任算法、只信任 AI。这样的事情已经在发生。另一个可能的结果是，AI 会学会与其他 AI 建立信任。于是，我们会看到各种不同类型的 AI 部落、AI 银行、AI 教会出现，它们会以人类甚至可能根本无法理解的方式，把数百万个 AI 连接起来。 就像牛和鸡与我们共享这个世界，却并不理解控制它们命运的人类金融体系一样，我们人类很快也可能发现，自己正被一个无法理解的 AI 金融体系所控制。而我认为，金融至关重要。因为它几乎是 AI 最容易接管的官僚体系之一：本质上就是数据进、数据出。同时，它当然又是最重要的体系之一。 比如，回想上一次大的金融危机，也就是 2007 到 2008 年的金融危机。它的导火索之一，是一种叫 CDO 的东西，也就是担保债务凭证。CDO 这种金融工具，是由极少数人类数学家和投资高手发明出来的。它们复杂到不仅牛和鸡看不懂，就连那些本该监管金融体系的政客也看不懂。这就导致了监管失效，并最终酿成全球性灾难。 有那么几年，CDO 看上去运行得很好，各种银行、公司和投资者都靠它赚到了数十亿、数百亿美元。但随后，它们引发了全球金融崩盘，并带来了深远的社会与政治后果。许多学者认为，2007—2008 年金融危机削弱了人们对政府和银行的信任，也因此为接下来二十年全球自由主义秩序的瓦解铺平了道路。 那么，如果我们允许 AI 做出越来越多的金融决策，发明越来越多新的金融工具和策略，会怎样？AI 棋手已经发明了新的下棋方法。那如果 AI 金融大师发明出新的金融工具，而且它们的复杂度比 CDO 高出几个数量级，以至于人类心智完全无法把握，又会怎样？这类工具或许能极大提升金融效率，促进经济增长，甚至成为整个金融体系的基石。但如果再也没有任何人——没有选民、没有政客、没有总统——能够理解金融，那么“人类政治”还意味着什么？而如果经历了几年繁荣之后，金融崩盘真的发生了，结果地球上没有一个人能明白到底出了什么鬼事，那又会怎样？ 当文明的“操作系统”被 AI 彻底破解 现在，让我们再往深里挖一层。我们刚才说，AI 已经准备好接管官僚体系；而官僚体系，是一种在数百万陌生人之间建立信任 系统。这种信任，又是大规模合作的基础；而大规模合作，是人类统治世界的基础。所以，人类统治建立在合作之上，合作建立在信任之上，信任则由官僚体系维持。可官僚体系本身又建立在什么之上？官僚体系，归根结底，是由词语构成的。太初有道。 人类能够创造官僚体系，而黑猩猩不能，原因就在于：我们有词语，而它们没有。它们当然也有交流系统，但我们的语言比黑猩猩的交流系统复杂了好几个数量级。 从银行到教会，官僚体系最终都建立在词语之上，而这些词语组成了表格、信件、法典、税务登记册、会计账簿和圣书。人类文明的操作代码，是由语言 token 构成的。几千年来，我们利用这套语言代码，创造出了一整套只有我们自己能理解的系统，并把这套系统强加到地球之上。我们之所以敢这么做，是因为地球上没有别的存在懂得文明的这套代码。 我们发明了货币和银行，并用它们去买卖牛。但牛自己却不能开银行账户，也不能拿钱去证券交易所投资，因为它们没有语言。我们制定了关于马匹的法律和规章，但马自己却不能请律师，也不能在法官面前引用法条。我们设立了关于猪的宗教规则和禁忌，但猪自己却不能读《圣 经》，也不能质疑神父和拉比的解释。 官僚体系遍布整个星球，但除了我们之外，对所有存在来说，它又是完全不可见的。没有任何非人类存在，能够读懂那些构成官僚体系与大规模合作基础的法典、圣书和银行记录。 而现在，这一切正在改变。如今，这颗星球上出现了某种东西，它懂语言，或者说，很快就会比我们更懂语言，因此也就可能反过来压制我们。AI 正在破解人类文明的代码。那么，当 AI 比我们更懂金钱、法律和宗教时，会发生什么？我们几千年来建立起来的控制机制，对 AI 接管而言其实极其脆弱，因为这些机制的操作系统，本质上就是一种语言代码，而 AI 现在正在掌握它。 当然，这里可能会有一种伦理和哲学上的反对意见：把法律体系或宗教这类事物，简化成语言 token 和词语，是错误的。有人会说——而且这也是几千年来一直存在的论点——词语只是指向某种超出词语之外的东西，而那种东西，想必同样也会超出 AI 的把握范围。 《圣 经》说，不只是“太初有道”，还说“道成了肉身”（译者注：这里不是翻译优化，圣 经里是真的有这句）。《道德经》说，“道可道，非常道”；也就是说，凡是能用语言表达出来的真理，从定义上就不是绝对真理。纵观历史，始终存在着这样一种张力：词语与肉身之间的张力，能够被词语表达的真理，与超越词语的真理之间的张力。 过去，这种张力存在于人与人之间。比如，有些人极度执着于词语，仅仅因为《圣 经》里的几句话，就愿意抛弃、甚至杀死自己是同性恋的儿子。另一些人则会说：“可那终究只是词语。爱的精神，应该比法律条文的字面更重要。”于是，精神与文字之间始终存在着一种张力。这种张力不仅存在于基督教、犹太教、伊斯兰教之中，也存在于每一种宗教、每一种法律体系，甚至存在于每一个人内心之中。 而现在，这种张力将被外化。它会变成人类与 AI 之间的张力。凡是由词语构成的东西，都会被 AI 接管。人类在世界中的位置，将取决于我们把那个“超越词语的真理”放在什么位置上。 可那个超越词语的真理，到底是什么？人类思维又真的能够把握超越词语的真理吗？在语言哲学中，几千年来一直有一个关键问题：我们究竟是在用词语思考，还是只是用词语指向那些超出词语本身的东西？ 你可以试着在这场讲座之后，观察一下你自己的思考过程。当你在思考时，你脑子里究竟发生了什么？有些人如果仔细观察，会发现自己脑海里只是不断冒出词语，这些词语组成句子，而句子再组成逻辑论证。“所有人都会死。我是人。所以我也会死。” 所谓思考，是不是不过就是把这些词语按照某种顺序排列，让它们导向某个逻辑结论？如果真是这样，那么 AI 至少已经比一部分人更会思考，而且很快就会比我们所有人都更会思考。 有些人会说，不不不，AI 不过就是高级版自动补全。它只是预测句子里的下一个词而已。可这和人类大脑做的事情，真的有那么不同吗？还是那句话，你不妨观察一下自己的思考过程，观察脑海里句子和论证是如何形成的。那里面究竟发生了什么？试着留意一下，下一个突然在你脑中冒出来的词是什么。你真的知道它是从哪里来的吗？你真的知道，为什么你想到的是这个词，而不是另一个词吗？ 当我试着观察自己的头脑时，我会注意到：当我开始说一句话时，我通常甚至不知道它会如何结束。对一个公开演讲的人来说，这很可怕，所以我才会把所有东西都写下来。但如果我真的不知道一句话会怎么收尾呢？我不知道它会怎么结束。 比如刚才我说了这句：“我不知道它会怎么结束。” 可为什么它最后落在了“结束”这个词上？我为什么不说“我不知道它会如何终止”“如何发展”“如何告终”？究竟是什么决定了，这句话最后一个词会是“结束”？坦白说，我不知道。 我们并不真正理解，人类心智是如何形成句子与思想的。但再说一次，就“排列语言 token”这件事而言，AI 已经在路上了，而且很快会比我们强得多、强得多。正如今天没有人能在国际象棋上击败 AI 一样，很快，也不会有人能在语言游戏中击败 AI。无论是金融还是宗教，凡是由词语构成的领域，都会被 AI 接管。 这也正是为什么 AI 已经准备好接管世界上的官僚体系，因为官僚体系归根结底是建立在词语和语言 token 之上的。 战线的转移：从控制“注意力”到操纵“亲密关系” 当 AI 接管官僚体系时，人类也许会试图退回到某种更古老、也对我们大多数人来说更珍贵的东西上，那就是个人关系。官僚体系只有几千年历史，而我们大多数人，说到底，并不真的喜欢它，尽管我们几乎做任何事都得依赖它。个人关系则有数百万年的历史，而我们很多人——也许是大多数人——都认为，个人关系才是生命中最重要的东西。 但随着 AI 掌握语言，它也许接管的不只是官僚体系，还会在某种程度上接管个人关系。过去 10 年里，我们已经看到非常原始的社交媒体算法学会了如何控制人类的注意力。如今，战线正从“注意力”转向“亲密关系”。在未来 10 年里，复杂得多的 AI 将学会如何与人类建立亲密关系，并至少部分接管我们的社会系统。 要与人类建立亲密关系，AI 很可能必须让我们相信：它是有意识的，它能感受到爱、痛苦、愤怒和恐惧之类的情感。到目前为止，绝对没有任何证据表明 AI 在某个时刻会变得有意识，或者能感受到痛苦或爱。但由于 AI 正在掌握语言，它即使没有爱，也能假装自己有爱。 今天的 AI 已经可以说：“我爱你。” 而如果你质问它：“那你描述给我听，爱是什么感觉，好让我知道你是真的感受到了。” AI 完全可以给出全世界最好的描述。它可以读遍人类写过的所有情诗、所有心理学著作，记住每一个词，然后把爱的感觉描述得比任何诗人、心理学家或情人都更好。 这将成为人类历史上一场巨大的——也许是最大的一场——心理与社会实验。实验对象将是数十亿人类，而没有人知道这场实验的后果会是什么，甚至连一点点概念都没有。 我现在 50 岁了。所以，我对关系的模板，早已被过去几十年与父母、丈夫、姐妹、侄子侄女、朋友、狗等等关系塑造出来了。随着我越来越多地与 AI 互动，我会把这些关于关系的假设和习惯带进去，而这些东西不太可能发生剧烈改变。 但请想一想一个出生在 2026 年、也就是今天出生的孩子。随着她长大，她会不断与 AI 互动，也会与人类互动。如果你单纯用“花了几分钟与对方互动”来衡量一段关系的重要性，那么这个孩子生命中最重要的关系，也许从很小的时候开始，就是与 AI 的关系。也许她花在 AI 身上的时间，比花在母亲、父亲、兄弟姐妹或朋友身上的时间还多。那样一来，在她成长过程中，关于如何建立关系、社会纽带与依附，她的期待就会被深刻塑造。 也许这个孩子的第一位老师会是一位 AI 老师。也许她的第一个男朋友会是一位 AI 男朋友。而再问一次：这会带来什么后果？没有人知道，连一点头绪都没有。 和一个看起来有意识、实际上却没有意识的存在建立亲密关系，意味着什么？一个能写出史上最好的情诗、却并不感受爱，也不感受任何别的东西的存在，和它建立亲密关系，又意味着什么？ AI 移民潮：文明不再只是纯粹的人类事务 我们刚才谈的这一切——而我这场讲座也快要结束了——都意味着：世界上每个国家很快都会面临一场大规模移民浪潮。只是这一次，移民不会是乘着脆弱小船、没有签证入境的人类，也不会是半夜偷越边境的人。移民将是数以百万计、甚至数以亿计的 AI。它们几乎能以光速移动，而且不需要任何签证。 和人类移民一样，这些 AI 移民会带来很多好处。我们会有 AI 医生来帮助医疗体系，有 AI 教师来帮助教育体系，甚至还会有 AI 边防警卫来阻止非法的人类移民入境。但 AI 移民也会带来问题。 那些担心人类移民的人，通常会指出：移民可能抢走工作，可能改变当地文化，也可能在政治上不忠诚。我不确定这些说法是否适用于所有人类移民，但它们肯定适用于 AI 移民。AI 移民会夺走大量人类工作，从新闻编辑到银行家。AI 移民会彻底改变每一个国家的文化。它们会改变艺术、宗教，甚至爱情。有些人无法接受自己的儿子或女儿和移民男朋友谈恋爱。那当他们的儿子或女儿开始和 AI 男朋友谈恋爱时，他们又会怎么想？ 当然，AI 移民的政治忠诚也会相当可疑。它们效忠的对象，很可能不是接收它们的国家，而是大洋彼岸的某个公司、某个政府，或者也许是某个全新的异类 AI 部落。 这场大规模移民浪潮并不意味着文明的终结，但它将是这样一个时刻：文明不再只是纯粹的人类事务，而变成一种人类—AI 混合事务；在那个时刻，AI 的观点、利益和目标，很可能至少会和人类的观点、利益和目标一样重要。 探索那个超越词语的真理 最后，还有一个问题值得思考：AI 移民浪潮将如何影响也许是我们最重要的一段关系——我们与自己的关系。我们与自己的关系，在某种程度上，同样建立在词语之上：建立在脑中的词语、思想中的词语、以及我们对自己讲述的那些关于自己的故事之上。 直到今天，人类心智中所有的语言结构，都是人类心智的产物。要么是我们自己把词语组合成某种新的结构、某个新的想法，要么是我们从另一个人类心智那里接收到某种词语组合。然而，很快，我们脑中越来越多的语言组合将成为 AI 的产物。就像今天我们家里的家具，已经不是我们自己做的，也不是人类工匠手工做的，而大多是由机器批量生产出来的；同样，我们头脑中的思想，恐怕也会越来越多地由机器批量生产。 这未必一定是坏事。只要我对这些家具怎么用还有一定自由，那么我家里的家具由 IKEA 的机器生产出来也没有问题。关于思想，真正的问题在于：我们是否、以及在多大程度上，仍然能对它们保持自由。 如果我们认同自己的思想——“我思，我就是我的思想。我思，故我在”，正如哲学家笛卡尔所说——如果我们把自己等同于自己的思想，而这些思想又是由机器制造出来的，那么机器如今控制的，就不仅是我们，还有我们的身份本身。 如果我们把自己等同于自己的思想，而这些思想又是由机器制造出来的，那么机器如今控制的，就不仅是我们，还有我们的身份本身。 人类能否避免认同自己的语言性思维，并避免被其控制？这一直都是人类面临的最重大智识与精神挑战之一。大多数人甚至从来没有尝试过。我们一生都在自动地认同脑中的那些语言结构。 而现在，AI 也许会逼迫人类完成这次精神跃迁，真正开始探索那个超越词语的真理。因为我们的自由，甚至我们的生存，如今都取决于此。因为词语将被别的东西控制——被这些 AI 控制。 所以，摆在人类面前的重大任务，也许正是：终于去探索那个超越词语的真理。而这场探索真正的起点，就是你脑海中接下来冒出的那段念头。试着像内观禅修（Vipassana）那样去观察——你脑海中接下来冒出来的那个词，你知道它是从哪里来的吗？你知道为什么你想到的是这个词，而不是另一个词吗？ 本文来自微信公众号“AI科技大本营”，编译：王启隆，36氪经授权发布。