Anthropic创始人的「抽象」B面：拍墓碑广告、研究AI末日、对赚钱毫无兴趣

一家年化收入据称已达到700亿美元、最快将在9月上市的AI公司，掌舵者却被自己的投资人形容为“更像宗教领袖，而不是CEO”。

The Information近日发表长篇报道，通过Anthropic投资者、员工、前员工及相关人士的讲述，勾勒出Dario Amodei极为矛盾的一面：他相信AI可能给人类带来生存性风险，却亲手创办了全球最激进的前沿模型公司之一；他对资本市场和传统商业规则缺乏兴趣，却不得不持续筹集数百亿美元购买算力；他公开警惕特朗普和马斯克，最终又分别与这些力量接触、合作或接受投资。

在Dario眼中，Anthropic似乎不只是一家公司，而是一项需要与时间赛跑的历史使命。也正因如此，他可以无视投资人的抱怨、政府的压力乃至公司的短期利润，坚持自己对AI安全的判断。但当Anthropic从一家理想主义实验室成长为全球增长最快的公司之一，这套近乎信仰驱动的管理方式，也开始与资本、政治和商业现实正面碰撞。

The Information报道中，Dario的一些“抽象行为”包括：投资人建议Anthropic学习微软、Facebook，通过宣传AI在药物研发等领域的价值改善公众形象。Dario当场拒绝，认为这次面对的是“关乎人类存亡”的问题。此后，Anthropic却投放了一则以墓碑开场的世界杯电视广告。

• 他曾预测，AI发展有25%的概率会走向“非常、非常糟糕”的结局；与此同时，他正带领Anthropic加速训练能力更强的模型。

• 在OpenAI任职期间，他习惯使用一台与Wi-Fi和外部网络完全隔离的电脑撰写备忘录，再将文件打印出来交给同事，而不是使用Google Docs。

• 他曾拒绝前往中国，因为担心自己在那里遭到绑架。

• 当OpenAI仍鼓励员工公开分享研究时，他已经开始推动“信息危害”审查，并将自己团队的大量代码库和Slack频道设为私密。

• GPT-3尚未开始训练时，他的安全团队就担心模型可能达到AGI水平，一度导致微软对OpenAI的10亿美元投资推迟数月。

• 他长期担心Sam Altman和OpenAI最终控制最强大的AI系统。Anthropic内部甚至有人调侃，他患有“Sama精神错乱综合征”。

• 他每月两次召开全员会议，打开一份庞杂的文档，长时间讨论AI、政治、战争和人类社会。员工把这场会议称为“Dario的愿景探索”。

• 他让Anthropic内部的经济学家建立数学模型，研究“奇点”将怎样影响美国GDP和失业率。一名员工形容：“奇点始终存在于他的脑海里。”

以下是全文翻译。

今年早些时候，Anthropic召开了一场与投资者及顾问的闭门会议。彼时这家公司正站在一轮历史性商业上升期的浪尖，但公众对人工智能的观感却跌至谷底。一名董事提议，Anthropic不妨效仿微软、Facebook等科技巨头在鼎盛时期的做派，发起一场形象宣传，重点展示AI在药物发现等领域的积极前景。

CEO Dario Amodei当场拒绝。在场人士回忆，他的回应简短而直接："过去的人们就是这么做的，但这一次涉及的是更关乎人类存亡的问题。"

这场形象攻势最终没有发生。但在上个月的世界杯期间，Anthropic推出了一则电视广告：开场是一连串阴郁画面，其中包括一排墓碑。旁白强调，人们必须就AI提出那些"艰难的问题"。

这就是43岁的Dario Amodei。他带领Anthropic迅速崛起为AI行业领军者，乃至史上增长最快的大型公司之一。但在这个过程中，他几乎没有遵循任何传统商业先例，也很少听取核心圈层之外的意见。如今，他站在有史以来最激烈的科技竞赛前沿，他对Anthropic的野心、对监管的立场，以及对AI冲击就业的判断，正日益激怒行业内的其他公司和美国政府中的部分人士。

一名Anthropic投资者评价："与其说他是一名CEO，不如说他更像一位宗教领袖。"

"别再把所有人都吓坏了"

最近，Palantir、微软、英伟达和Meta的CEO都曾直接或间接批评Amodei。批评的理由集中在他掌握了过多权力、对AI风险的表述过于悲观，或者夸大了开源AI的安全隐患。而开源模型，恰恰也是Anthropic闭源模型的竞争对手。

Amodei很快将面对其非常规领导方式的一次新考验：说服公开市场投资者。近期市场震荡令不少AI股票投资者蒙受损失，而Anthropic最快可能于9月启动首次公开募股。在IPO前的几周里，他将与多家大型资产管理机构会面。其中一些人希望他不要再反复强调AI可能给人类带来的生存性风险。一名曾与Anthropic会面的基金经理直言，希望他能"别再把所有人都吓坏了"。

就连一些有望从Anthropic和整个AI热潮中获得丰厚回报的现有投资者，也曾在私下交流中抱怨，Amodei推动更严格AI监管的做法正在伤害公司乃至整个科技行业。多名投资者表示，他们对Amodei几乎没有影响力。一名硅谷投资者在投资Anthropic前，曾在笔记中写下一项他认为非同寻常的风险：他不相信Amodei真的在乎赚钱。

知名创业者兼投资人Eric Ries长期批评硅谷的资本主义冲动。他认为，如何处理与股东之间的紧张关系，可能会让Amodei的上市公司CEO生涯变得"极其艰难"。Ries认识Amodei，也曾就公司治理问题向他提供建议。他表示，考虑到Anthropic高度依赖昂贵的芯片和数据中心，Amodei终究必须面对维护投资者信心的现实。"这给了投资者巨大的权力，因为你必须让他们满意，才能继续融资。问题是：一旦股价下跌，会发生什么？"

地堡

在 The Informaiton 采访的Anthropic相关人士中，几乎没有人能指出Amodei在妹妹兼联合创始人Daniela Amodei、其他五名联合创始人，以及妻子Camilla Clark之外还有哪些重要影响来源。

Clark曾在科技公司工作，也做过创业者，几乎没有公开曝光，但经常陪伴在Amodei身边，包括近期的Allen & Co.太阳谷峰会。熟悉两人的人士称，她也是Amodei最亲近的顾问之一。

Amodei的领导方式在Anthropic内部塑造出一种近似"地堡"的心态：外界往往难以理解，员工却因此表现出强烈忠诚。员工在做决策时高度依赖他们自己创造的AI——Claude。

Claude拥有一部成文"宪法"，公司内部还有一名哲学家帮助调整它的人格。Anthropic高管曾对外表示，公司不打算大幅扩张员工规模；目前员工人数已超过3000人。他们不希望随着Claude能够承担越来越多内部工作，最终不得不裁员。

Amodei主要通过长篇文章和内部Slack消息领导公司。一名熟悉他的人士称，他会亲自介入重要战略问题，比如是否开发Anthropic自有AI芯片，以及如何获得训练下一代模型所需的数据中心资源。但他基本不参与薪酬、组织调整等日常管理工作，公司组织架构的大部分事务都交由担任总裁的Daniela负责。

一名重要投资者评价："与其说他是一名CEO，不如说他更像一位宗教领袖。"

另一些Anthropic投资者抱怨，Amodei似乎连经验丰富的科技界重量级人物的意见也听不进去，即便问题涉及公司的重大威胁，例如今年与五角大楼的冲突，或美国商务部对Anthropic最先进AI模型施加的限制。

最激进的一次监管俘获

Amodei倡导AI监管的立场尤其引发知名风险投资人的批评，特别是Marc Andreessen、David Sacks等与特朗普政府关系密切的人士。他们指责Amodei推动"监管俘获"，试图通过限制开源AI模型等规则巩固Anthropic的主导地位，并阻碍规模较小的竞争者。

未投资Anthropic的风险投资人Bill Gurley在短信中写道："一旦你宣称自己肩负一种'高尚'使命，就可以为各种行为找到合理化解释。这就是监管俘获，是我见过最激进的一次。"

前俄克拉何马州民主党众议员Brad Carson目前负责Anthropic资助的华盛顿政治非营利组织Public First Action。他认为，批评Amodei的人大多只是无法复制Anthropic的成功。"那些Meta和Andreessen们，对Dario创造出的东西嫉妒得要命。"

去年11月，Carson与Amodei在后者位于旧金山的办公室首次讨论Anthropic的捐款。Carson建议像多数501(c)(4)组织的捐赠人一样，匿名进行捐赠。他记得自己当时提醒："你正让自己卷入一个会有些混乱的过程。"但Amodei坚持公开Anthropic的名字，因为"公开我们正在做什么"很重要。

"这就是我眼中的Dario——极有原则，"Carson说。他偶尔会通过Signal向Amodei发送政治动态。"当然，我们可以像一些人那样争论，这些原则究竟对不对。但我不认为他犬儒，也不认为他投机取巧。"

这个人会让世界走向终结

2017年11月，Amodei站在华盛顿的一座讲台上，向一群美国国家安全领域人士介绍一种新型AI：它可以自我学习并自主行动。

当时，Amodei所在的OpenAI刚刚开发出一套能够掌握多人对战游戏《Dota 2》的程序。他说，新型专用AI芯片将加速公司的研究，并帮助其构建更强大的系统。

那时的技术距离今天成熟复杂的AI还很遥远，但Amodei已经感到警惕。戴着粗框眼镜、身穿深色夹克的他表达了自己的担忧：这种新系统运行速度可能快到人类无法"监督、批准，甚至理解"。

从很早开始，这类问题就是Amodei关注的核心。

他出生于旧金山，拥有普林斯顿大学生物物理学博士学位，曾在中国搜索巨头百度和谷歌早期AI部门工作，随后于2016年加入OpenAI。当时距OpenAI以非营利研究实验室身份成立仅一年。

由于最初拒绝了招募邀请，他并不是OpenAI众多联合创始人之一。但据七名与他共事过的人士称，在担任OpenAI安全负责人期间，他一直试图对自己和同事正在构建的强大技术取得更多控制权。

OpenAI早期崇尚自由发表研究成果，Amodei却逆势而行。2018年，他开始推动公司在论文发布前审查潜在的"信息危害"。某些研究一旦被广泛知晓，仅知识本身就可能带来风险。例如，这些信息可能让对手国家获知AI领域的重大进展。他还担心其他国家可能入侵OpenAI并窃取研究成果。

Amodei经常在旧金山公寓里使用一台与外部网络和Wi-Fi完全隔离的电脑撰写备忘录。知情人士称，他会把文件打印出来交给同事，而不是分享Google文档。他还曾告诉一名同事，自己拒绝前往中国，因为担心遭到绑架。

与此同时，Amodei逐渐聚拢了一批关键盟友。慈善评估机构GiveWell联合创始人Holden Karnofsky于2017年加入OpenAI董事会。同年与Karnofsky结婚的Daniela，则在2018年加入OpenAI，担任工程经理和人力负责人。

OpenAI当时正在开发早期大语言模型GPT-2。在一些同事看来，GPT-2仍然原始且错误频出。OpenAI自己在2019年初发布的博客文章中，也把该模型的阅读理解能力称为"初级"。

然而，Amodei后来在2023年的一档播客中说，自己当时对这套AI系统可能走向何方感到惊慌失措。在他看来，这个模型似乎已经能够对几乎任何问题进行推理，而且随着数据、训练和算力的增加只会越来越强。"我不知道自己究竟是疯了，还是有先见之明。"

他对信息加以控制的做法，也导致其团队与核心圈子之外的人关系紧张。

OpenAI员工过去习惯在全公司Slack频道和所有人均可访问的统一代码库中分享工作，但据两名知情人士称，Amodei的安全团队，以及后来由他领导、负责开发GPT-3等模型的团队，将许多代码库和Slack频道设为私密。

2018年，他曾为OpenAI的营利部门提出一项规则：希望获得通用人工智能访问权的企业和政府，必须遵守民主与人权规范。其他管理者反对这一方案，认为OpenAI没有能力判断各国政府或企业是否符合这些标准。提案最终未获通过。

Amodei还以其他方式行使影响力。一名前OpenAI高管称，2019年，安全团队担心尚未训练完成的GPT-3可能已经构成AGI，因此导致微软对OpenAI的10亿美元投资推迟了数月。这种谨慎态度让那些期待OpenAI刚刚起步的商业化业务快速推进的同事十分恼火。

"安全团队给人的感觉就像一个祭司集团。"这名前高管说。

Amodei经常在关键项目应由谁负责等问题上与CEO Sam Altman和总裁Greg Brockman发生冲突。一名前同事记得，Amodei有时会躲进办公室里的图书室，通过观看YouTube视频让自己平静下来。

毕业于加州大学圣克鲁兹分校英国文学专业的Daniela经常充当缓冲。她曾在支付公司Stripe与Brockman共事，因此帮助缓和双方关系。她与比自己年长四岁的哥哥一直非常亲近。Anthropic创立不久后，Dario曾在一档播客中说："我们一直想一起拯救世界。"

2020年底，兄妹二人与五名曾在OpenAI受其领导的亲密同事一同离职，创立Anthropic。他们强调安全，并招募理念相近的AI研究人员。一名当时经常与这些联合创始人交流的人士称，反对OpenAI、尤其是反对Altman，是把他们紧密团结起来的共同立场。"那是一群成年人认真地说：'这个人会让世界走向终结。'结果证明，这是一句极具生产力的集结口号。"

这种对立延续至今。知情人士称，Amodei一直担心Altman和OpenAI最终可能控制最强大的AI系统，以至于一些Anthropic员工开玩笑说，他患有"Sama精神错乱综合征"。而"Sama"是Altman的Twitter用户名。

一股重要力量

Anthropic创立初期，Daniela和其他联合创始人还必须处理一项敏感问题。

当时还是Dario女友的Clark曾讨论过在Anthropic担任职务，或募集一只基金投资Anthropic。她此前曾在多家科技公司任职，包括增强现实创业公司Leap Motion；Dario后来在OpenAI的同事Mira Murati也曾在那里工作。但由于Clark与Dario的私人关系，其他联合创始人没有接受这一安排。

Clark后来与Amodei结婚。她经常陪同丈夫出席私人晚宴和行业活动，但从未在Anthropic担任正式职务。她比丈夫更善于社交，朋友圈包括Ivanka Trump。一名接近Amodei的人士称，Clark如今是让他保持稳定的"一股重要力量"，"他的日程疯狂得难以想象"。

Anthropic高级管理层喜欢把Amodei比作一座灯塔：他的注意力会在公司各处扫过，一旦光束落到某个方向，那里就会得到大量关注。最近，这束光照向了公司聘用的一组经济学家。他们正在评估"奇点"的影响，也就是AI系统开始自动完成发明本身，并超出人类控制的那个时刻。

上个月的一次会议上，这些经济学家向Amodei介绍了一个粗略数学模型的结果。缓慢到来的奇点可能让美国经济增速提高0.5个百分点，同时就业大体保持稳定；快速到来的奇点则可能让GDP增速提高4个百分点，但也会显著推高失业率。汇报结束后，Amodei表示，这一评估与自己此前的判断相符。一名熟悉他的Anthropic员工说："奇点始终存在于他的脑海里。"

Anthropic早期的大量人才都与"有效利他主义"有关。这一思想流派主张运用理性方法解决世界问题。许多支持者把AI安全视为最重要的事业之一，因为他们认为AI可能毁灭人类。Anthropic早期也获得多位有效利他主义知名资助人的支持，包括如今已入狱的FTX创始人Sam Bankman-Fried、Facebook及Asana联合创始人Dustin Moskovitz，以及爱沙尼亚科技创业者Jaan Tallinn。其他早期投资者还包括前谷歌CEO Eric Schmidt和Google DeepMind负责人Demis Hassabis等科技与AI行业重量级人物。

不过，一些起初只把Anthropic理解为一家有效利他主义色彩浓厚的公司的员工，入职后惊讶地发现，这里并不全是某人所说的"纸上谈兵的哲学家"，还有一群野心勃勃、成就出众的研究人员，正在开发新的超级智能模型。一名与Amodei长期密切共事的人士说，他本人并不认同自己属于有效利他主义阵营："他无法被简单归入这些标签。"

管理层对AI开发紧迫性及责任感的强烈信念，塑造了一种高强度工作文化。一名前员工称，员工相信这条"不会永远持续的指数曲线"，因此把眼下的工作视为"一次文明尺度上才会出现的机会，必须真正抓住这个时刻"。

多名前员工表示，Amodei把这种历史使命感灌注进Anthropic的AI研发之中，也因此增强了员工忠诚度。他最主要的讲坛，是每月两次的全员会议。员工把它称为"Dario的愿景探索"：他会打开一份篇幅庞杂的文档，坦率讨论自己对AI、政治、战争和社会的看法，而不只是谈公司业务或产品。

一名接近Amodei的人士认为，他之所以能维持员工忠诚，部分原因在于他愿意直接与员工交流。"你基本可以直接在Slack上和他争论，他会把你当作平等的同事，认真回应。"

Amodei和其他联合创始人还把自己对公司使命的理解写进了Anthropic不同寻常的治理结构。Anthropic是一家公益公司，这意味着其法定使命不仅是盈利，也包括造福社会；公司还把一类特殊股份配置给一个信托机构，由后者任命董事会多数成员。

一次文明尺度上的机会

Anthropic近期的增长，主要来自其AI在复杂软件工程、机器学习和网络安全任务上的突破。今年早些时候，这些能力推动Anthropic的收入年化运行率超过OpenAI。外部机构近期估算，这项指标已达到700亿美元。

这意味着，成立仅五年的Anthropic正朝着超过已有49年历史的甲骨文的规模发展，而其员工数量却少约97%。Anthropic的领先地位令行业其他公司感到威胁：它们担心未来必须为使用Anthropic模型持续缴纳一笔"税"，也担心Anthropic开发出与自身产品直接竞争的业务。

即便在其风险治理主张显得居高临下，甚至可能损害Anthropic商业利益时，Amodei也经常坚持那套更具理想主义色彩的表达。

去年，研究人员担心正在开发的Claude 4可能特别擅长协助制造生物武器。Anthropic为此开发了一种名为"分类器"的专用AI过滤系统，用于标记与生物武器有关的对话。但分类器经常误判安全内容，而且模型规模较大，运行成本很高。当财务团队抱怨这一机制正在侵蚀模型利润率时，Amodei予以反驳，坚持认为出于安全原因，分类器不可或缺。

Amodei还曾因拒绝美国国防部要求Anthropic允许其AI用于"一切合法用途"，而激怒特朗普政府。此后不久，The Information报道称，他在发给员工的Slack消息中表示，这场僵局部分源于自己拒绝向特朗普捐款，也拒绝给予总统"独裁者式"的赞美。

但随着Anthropic不断壮大，为确保公司继续领先竞争对手，Amodei也开始对自己公开宣示的原则作出让步。

例如，他曾写道，AI应当帮助民主国家的情报机构"从内部扰乱并削弱专制政权"。但Anthropic同时接受了卡塔尔和阿联酋威权政府的投资。去年，他在一则内部消息中写道："遗憾的是，'绝不让任何坏人从我们的成功中受益'，恐怕是一条很难用来经营企业的原则。"

今年早些时候，Anthropic更新了"负责任扩展政策"，撤回了此前的一项承诺：如果公司无法事先确保适当的风险缓解措施，就不发布AI模型。首席科学官Jared Kaplan向《时代》杂志解释，随着AI快速进步，如果竞争对手仍在全速向前，公司"不再认为单方面作出承诺是合理的"。

Amodei就与特朗普政府五角大楼冲突发表激烈Slack言论几周后，他与Clark飞往佛罗里达州南部，拜访Jared Kushner及其妻子Ivanka Trump。据一名听取过会谈简报的人士称，他们讨论的话题之一，是Kushner旗下投资公司是否可能投资Anthropic。Kushner最终没有投资；他的弟弟Josh则是OpenAI的重要投资者。

Amodei日益灵活的另一个迹象，是愿意与Elon Musk做生意。Musk在AI安全、慈善等核心理念上多次与Amodei发生冲突，但Anthropic如今每月向Musk旗下SpaceX支付超过10亿美元，用于购买计算基础设施。

这笔SpaceX交易源于Amodei对增加算力供应采取的保守策略。他自己也承认，公司当初低估了实际需求，因此如今不得不支付溢价。一名接近Amodei的Anthropic高管说："我们一直很擅长预测将要构建的系统具备怎样的能力，却不太擅长预测这些能力在经济中扩散的速度。"

Amodei基本把与Musk及特朗普政府打交道的工作交给了其他高管，包括联合创始人Tom Brown。Musk还曾与AI对齐研究员Amanda Askell会面。Askell主要负责训练Claude形成积极的人格特质。一名听取过会面简报的人士称，这次交流让Musk更加相信Anthropic并不"觉醒"。此后，Musk在接受《经济学人》采访时表示，他认为Amodei是"一个非常有原则的人"。

但这类妥协让认识Amodei十多年的AI研究员Nate Soares感到警惕。Soares是《If Anyone Builds It, Everyone Dies》一书的合著者，长期研究AI的生存性风险。最近，他正在加州伯克利管理一栋住满社交媒体创作者的房子，要求他们每天制作与"AI末日"有关的视频，包括"搞笑短剧"和机器狗画面。

Soares带着不安注视着Amodei的崛起，尤其是后者曾预测，AI发展有25%的概率会走向"非常、非常糟糕"的结局。

"一个人既认真接受这些论证，却又决定创办一家AI公司，需要一种非常特殊的人格。"Soares说。