风险提示:理性看待区块链,提高风险意识!
USDT USDT $1.00 0.01%
XRP XRP $1.43310000 0.19%
BNB BNB $637.54000000 0.02%
USDC USDC $0.99963000 0.01%
SOL SOL $86.49000000 0.99%
TRX TRX $0.32360000 1.25%
BTC BTC $67,234.00 2.34%
ETH ETH $3,456.00 1.23%
CoinMeta Skill
限时免费体验

让 AI 更快获取有效、准确、可行动的币圈全景信息

纽约客深扒Altman:这个掌控我们未来的人值得信任吗

摘要

作者:Ronan Farrow,Andrew Marantz;来源: 《纽约客》杂志 ;编译:Shaw 金色财经 2023 年秋,OpenAI 首席科学家伊利亚・苏茨克维(Ilya Sutskever)向该机构董事会的另外三名成员发送了机...

纽约客深扒Altman:这个掌控我们未来的人值得信任吗

作者:Ronan Farrow,Andrew Marantz;来源: 《纽约客》杂志 ;编译:Shaw 金色财经

2023 年秋,OpenAI 首席科学家伊利亚・苏茨克维(Ilya Sutskever)向该机构董事会的另外三名成员发送了机密备忘录。此前数周,他们一直在秘密讨论 OpenAI 首席执行官萨姆・奥特曼(Sam Altman)及其副手格雷格・布罗克曼(Greg Brockman)是否适合执掌公司。苏茨克维曾与二人皆是好友。2019 年,他还在 OpenAI 办公室为布罗克曼主持了婚礼,仪式上的戒童甚至是一只机械手掌。但当他愈发确信公司正逼近其长期目标 —— 打造出认知能力可匹敌乃至超越人类的人工智能时,对奥特曼的疑虑也日益加深。苏茨克维当时对另一位董事坦言:“我认为萨姆 不该是那个手握决策大权的人。”

应其他董事的要求,苏茨克维与立场相近的同事一同整理了约七十页的 Slack 聊天记录、人力资源文件及相关说明材料。其中包含用手机拍摄的图片,显然是为了避免在公司设备上留下痕迹。他将最终定稿的备忘录以阅后即焚消息的形式发给其他董事,确保内容不会外泄。“他当时极度恐惧,” 一名收到备忘录的董事回忆道。我们查阅过这些此前从未完整公开的文件,其中指控奥特曼向高管与董事会成员歪曲事实,并在内部安全规程上刻意欺瞒。其中一份针对奥特曼的备忘录,开篇便是一组标题为“萨姆一贯表现出以下行为模式……”的清单,第一条便是:撒谎。

许多科技公司只会空泛宣称要改善世界,实则一心追求利润最大化。但 OpenAI 的创立初衷本是与众不同。包括奥特曼、苏茨克维、布罗克曼与埃隆・马斯克在内的创始团队认为,人工智能可能是人类历史上最强大、也最具潜在危险的发明;考虑到其存在性风险,或许需要一套特殊的公司治理结构。公司最初以非营利机构形式成立,董事会有义务将人类安全置于公司业绩乃至生存之上。而首席执行官必须具备极高的诚信操守。

在苏茨克维看来,“任何致力于研发这种足以改变文明形态技术的人,都肩负着沉重使命与前所未有的责任。” 但 “最终坐上这类位置的,往往是一类特定的人 —— 热衷权力者、政客、享受掌控感的人。” 他在一份备忘录中担忧,将这项技术托付给一个“只会说别人爱听的话”的人风险巨大。OpenAI 董事会共有六名成员,若首席执行官不可靠,董事会有权将其罢免。人工智能政策专家Helen Toner 、企业家Tasha McCauley等董事收到备忘录后,更加印证了自己早已形成的判断:奥特曼的职位关乎人类未来,却根本不值得信任。

当时奥特曼正在拉斯维加斯观看一级方程式赛车比赛,苏茨克维邀请他参加一场董事会视频会议,随后宣读了一份简短声明,宣布他不再是 OpenAI 的员工。

董事会根据法律顾问的建议发布了一则公开通告,仅表示解除奥特曼职务的原因是他“在沟通中未能始终保持坦诚”。这一消息让 OpenAI 的众多投资方与高管大为震惊。向 OpenAI 注资约 130 亿美元的微软,直到事发前一刻才得知罢免奥特曼的计划。

微软首席执行官Satya Nadella后来说道:“我当时极为震惊,完全没人能给我任何解释。” 他与领英联合创始人里德・霍夫曼取得了联系 —— 霍夫曼既是 OpenAI 的投资人,也是微软董事会成员,他随即四处致电核实奥特曼是否存在明确的不当行为。

“我完全搞不懂到底发生了什么,” 霍夫曼向我们表示,“我们排查了是否存在挪用公款、性骚扰这类问题,结果什么都没发现。”

其他商业伙伴也同样猝不及防。奥特曼打电话给投资人罗恩・康威,告知自己被解雇时,康威正与众议院前议长南希・佩洛西共进午餐,他直接把手机举到了佩洛西面前。“你最好赶紧脱身。” 她对康威说。当时 OpenAI 即将完成来自风投公司 Thrive 的一笔巨额融资,该公司由乔希・库什纳创立 —— 他是贾里德・库什纳的弟弟,与奥特曼相识多年。这笔交易对 OpenAI 的估值高达 860 亿美元,还能让大批员工套现价值数百万美元的股权。库什纳刚结束与音乐制作人里克・鲁宾的会议,就发现了奥特曼的未接来电。“我们当即就进入了开战状态。” 库什纳后来说。

奥特曼被解雇当天,便飞回了他位于旧金山、价值 2700 万美元的豪宅。这座宅邸坐拥海湾全景,还曾配有一座悬挑式无边泳池。他在那里搭建起了自己口中的 “流亡政府”。康威、爱彼迎联合创始人布莱恩・切斯基,以及以作风强硬著称的危机公关主管克里斯・莱汉纷纷加入,每天通过视频和电话与他商议数小时。奥特曼的部分高管团队成员直接在他家走廊里安营扎寨,律师团队则在他卧室旁的家庭办公室办公。失眠时,奥特曼会穿着睡衣在他们身边来回踱步。我们近期与奥特曼交谈时,他将被解雇后的这段日子形容为 “一场诡异的神游状态”。

在董事会保持沉默的情况下,奥特曼的顾问团队开始公开造势,推动他重返公司。莱汉坚称,此次解雇是一群激进的 “有效利他主义者” 策划的政变 —— 这一群体信奉以最大化人类福祉为核心的理念,逐渐将人工智能视为人类生存的威胁。(霍夫曼也曾对纳德拉表示,这次解雇或许源于 “有效利他主义者的疯狂举动”。)莱汉有一句援引自迈克・泰森的名言,据报道是:“人人都有计划,直到脸上挨上一拳。” 他力劝奥特曼在社交媒体上发起猛烈攻势。切斯基则与科技记者卡拉・斯维舍保持联系,不断传递对董事会的批评声音。

奥特曼每天傍晚六点都会中断 “作战室” 的议程,调一轮内格罗尼酒。“你们得冷静下来。” 他记得自己当时说,“该发生的总会发生。” 但他补充道,通话记录显示他每天通话时长超过 12 小时。据一位知情人士透露,奥特曼曾向当时担任临时 CEO 的米拉・穆拉蒂放话 —— 穆拉蒂此前曾向苏茨克维提供备忘录材料 —— 称自己的盟友正在 “全力以赴”,并 “搜集黑料”,准备毁掉她以及其他反对自己的人的声誉。(奥特曼表示不记得有过这番对话。)

解雇消息传出几小时内,Thrive 便暂停了原定投资,并表示只有奥特曼回归,交易才会完成,员工也才能拿到套现款。这一时期的短信记录显示,奥特曼与纳德拉紧密协调。(两人在草拟一份声明时,奥特曼提议:“萨提亚和我的首要任务仍是挽救 OpenAI。” 纳德拉则修改为:“确保 OpenAI 持续蓬勃发展。”)微软很快宣布,将为奥特曼及所有愿意离开 OpenAI 的员工另起炉灶、成立对标项目。公司内部一封要求他复职的公开信开始流传。一些犹豫是否签名的人收到了同事的恳求电话与信息。最终,OpenAI 绝大多数员工威胁要随奥特曼一同离职。

董事会被逼入绝境。“按 Ctrl+Z 撤销,这是一个选择。” 托纳说 —— 也就是撤销解雇决定。“另一个选择就是公司分崩离析。” 就连穆拉蒂最终也签署了那封公开信。奥特曼的盟友开始争取苏茨克维。布罗克曼的妻子安娜在办公室找到他,恳求他重新考虑。“你是个好人 —— 你能挽回这一切。” 她说。苏茨克维后来在法庭证词中解释道:“我觉得,如果我们走上不让萨姆回归的道路,OpenAI 就会毁于一旦。” 一天夜里,奥特曼服用安眠药后入睡,却被丈夫、澳大利亚程序员奥利弗・马尔赫林叫醒,对方告诉他苏茨克维态度松动,有人希望奥特曼与董事会对话。“我在安眠药带来的疯狂昏沉中醒来,完全晕头转向。” 奥特曼告诉我们,“我当时就觉得,我现在根本没法跟董事会谈。”

在一系列愈发紧张的通话中,奥特曼要求推动解雇他的董事辞职。“我还要在这种漫天猜疑的氛围里收拾他们留下的烂摊子?” 奥特曼回忆自己最初对复职的想法,“我当时只想说,绝对不可能。” 最终,苏茨克维、托纳与麦考利失去了董事席位。Quora 创始人亚当・安吉洛是唯一留任的原董事。作为离职条件,离任董事要求对针对奥特曼的指控展开调查,包括他挑拨高管内斗、隐瞒财务关联等。他们还推动成立新董事会,以独立监督外部调查。但两名新任董事 —— 前哈佛校长劳伦斯・萨默斯与前 Facebook 首席技术官布雷特・泰勒 —— 都是在与奥特曼密切商议后选定的。奥特曼给纳德拉发消息:“你觉得这样行吗?董事会由布雷特、拉里・萨默斯、亚当组成,我担任 CEO,由布雷特负责调查。”(麦考利后来在证词中表示,她此前就担心泰勒对奥特曼过于顺从。)

被解雇不到五天,奥特曼便官复原职。如今员工们将这段插曲称作 “小波动”,典故来自漫威电影中角色短暂消失、再归来时世界已天翻地覆的情节。但关于奥特曼是否值得信任的争论,早已超出 OpenAI 董事会的范畴。推动罢免他的同事指责其欺骗成性,这对任何高管都无法容忍,对掌握如此颠覆性技术的领导者而言更是危险。“我们需要配得上其所握权力的机构。” 穆拉蒂告诉我们,“董事会征求意见,我如实分享了所见所闻。我所说的一切都真实无误,我对此负责到底。” 而奥特曼的盟友则长期对这些指控不屑一顾。解雇风波后,康威给切斯基和莱汉发短信,要求发动公关攻势。“这关系到萨姆的名誉。” 他写道。他对《华盛顿邮报》表示,奥特曼遭到了 “失控董事会的不公对待”。

此后 OpenAI 跻身全球最具价值公司之列。据报道,公司正筹备首次公开募股,潜在估值可达万亿美元。奥特曼正推动规模惊人的人工智能基础设施建设,其中一部分布局于国外威权国家。OpenAI 接连拿下大额政府合同,为移民执法、国内监控与战区自主武器制定人工智能应用标准。

奥特曼在 2024 年一篇博客文章中描绘了一幅宏大愿景,以此推动 OpenAI 扩张:“惊人的成就 —— 修复气候、建立太空殖民地、揭开物理学全部奥秘 —— 终将变得稀松平常。” 这番说辞支撑着这家初创企业创下史上最快的烧钱速度,其合作伙伴也背负着巨额债务。美国经济正越来越依赖少数高杠杆的人工智能公司,而包括奥特曼在内的不少专家多次警告,该行业已处于泡沫之中。“有人会亏掉天文数字般的钱。” 他去年对记者表示。一旦泡沫破裂,可能引发经济灾难。如果他最乐观的预测成真,他或将成为地球上最富有、最有权势的人之一。

在奥特曼被解雇后的一次激烈通话中,董事会逼他承认自己存在习惯性欺骗行为。据通话在场人士回忆,他反复说道:“这实在太离谱了。”“我改不了自己的性格。” 奥特曼表示不记得这段对话。“我可能想说的是类似‘我确实想成为凝聚人心的力量’。” 他告诉我们,并补充说正是这一特质让他得以领导一家取得巨大成功的公司。他将批评归因于自己职业生涯早期 “过于回避冲突” 的倾向。但一名董事对此有不同解读:“他的意思是‘我就是爱撒谎,而且我不会改’。” 推动解雇奥特曼的同事,究竟是出于危言耸听与个人恩怨,还是他们判断他不可信任本就正确?

今年冬天的一个早晨,我们在旧金山 OpenAI 总部见到了奥特曼,这是为本文与他进行的十多次对话之一。公司近期刚搬进两栋 11 层的玻璃大楼,其中一栋此前由科技巨头优步使用。优步联合创始人兼 CEO 特拉维斯・卡兰尼克曾一度被视为势不可挡的天才,直到 2017 年因投资人对其道德操守的担忧被迫辞职。(卡兰尼克如今运营一家机器人初创公司,他最近称,闲暇时会用 OpenAI 的 ChatGPT “探索量子物理的前沿未知”。)

一名员工带我们参观了办公室。在一个摆满公共长桌的开阔空间里,挂着一幅计算机科学家艾伦・图灵的动态数字画像;我们走过时,画中眼睛会随之转动。这件作品暗指 1950 年提出的图灵测试,即机器能否可信地模仿人类行为。(2025 年一项研究显示,ChatGPT 通过图灵测试的可靠性甚至超过真人。)通常人们可以与这幅画像互动,但工作人员告诉我们,声音功能已被关闭,因为它总在偷听员工对话并插嘴插话。办公室其他地方的铭牌、宣传册与周边产品上都印着 “感受 AGI” 的字样。这句话最初与苏茨克维有关,他曾用它提醒同事警惕通用人工智能的风险 —— 即机器达到人类认知水平的临界点。而在 “小波动” 之后,它变成了一句欢呼超级丰饶未来的口号。

我们在八楼一间普通的会议室见到了奥特曼。“以前别人跟我说决策疲劳,我根本不懂。” 奥特曼说,“现在我每天都穿灰色毛衣和牛仔裤,就连从衣柜里挑哪件灰色毛衣 —— 我都在想,要是不用想这些就好了。” 奥特曼长相显年轻,身材瘦削,蓝色双眼间距较宽,头发凌乱;但他如今已 40 岁,与马尔赫林通过代孕拥有一个一岁的儿子。“我敢肯定,美国总统这份工作压力要大得多,但在我能胜任的所有工作里,这是我能想象到压力最大的一份。” 他一边说,一边轮流与我们两人对视。“我跟朋友是这么解释的:‘在推出 ChatGPT 之前,这是世界上最有意思的工作。’我们当时做出了大量重大科学发现 —— 我觉得那是几十年来最重要的科学突破之一。” 他垂下目光,“但自从 ChatGPT 发布后,决策就变得异常艰难。”

奥特曼在密苏里州克莱顿长大,那是圣路易斯的一个富裕郊区,家中四个孩子里他排行老大。母亲康妮・吉布斯廷是皮肤科医生,父亲杰里・奥特曼曾是房地产经纪人和住房权益活动人士。奥特曼上过改革派犹太会堂和一所私立预科学校,他形容那所学校 “不是一个你能坦然公开自己同性恋身份的地方”。不过总体而言,家族所在的富裕郊区圈子相对自由开放。他说,自己十六七岁时,曾在圣路易斯一个以同性恋人群为主的社区深夜外出,遭到残酷的人身攻击与恐同辱骂。奥特曼没有报案,也不愿在记录中透露更多细节,称完整讲述会 “让我显得善于操纵或博取同情”。他否认这一经历以及自身性取向对其人格有重要影响,但也表示:“这可能在我心底留下了某种深层心理印记 —— 我以为自己已经释怀,其实并没有 —— 让我不想引发更多冲突。”

2016 年,奥特曼的哥哥告诉《纽约客》,奥特曼童年的态度就是:“我必须赢,一切都得我说了算。” 他进入斯坦福大学,经常参加校外扑克局。“我觉得从扑克中学到的人生与商业道理,比大学课程还多。” 他后来说。

所有斯坦福学生都野心勃勃,但其中最有闯劲的一批人往往会辍学。大二暑假,奥特曼前往马萨诸塞州,加入创业孵化器 Y Combinator 的首批创业者项目。该孵化器由知名软件工程师保罗・格雷厄姆联合创立。每位参与者都带着创业想法加入 YC。(奥特曼同期的学员包括 Reddit 和 Twitch 的创始人。)奥特曼的项目最终命名为 Loopt,是一个早期社交网络,通过翻盖手机定位告知好友位置。这家公司体现了他的进取心,也暴露了他善于将模糊局面往对自己有利方向解读的倾向。联邦法规要求电信运营商可追踪手机位置用于紧急服务;奥特曼与运营商达成协议,将这一功能用于公司业务。

Loopt 的大多数员工都喜欢奥特曼,但有人对他夸大其词的习惯印象深刻,即便在小事上也是如此。有人回忆,奥特曼到处吹嘘自己是乒乓球冠军 ——“比如密苏里州高中乒乓球冠军”—— 结果却是办公室里打得最差的人之一。(奥特曼称自己可能只是在开玩笑。)正如受投资人委托担任奥特曼 “监护人” 的资深 Loopt 员工马克・雅各布斯坦后来为奥特曼传记《乐观主义者》作者基奇・黑吉所述:“‘我觉得我或许能做成这件事’和‘我已经做成了这件事’之间界限模糊,这种倾向最极端时就会酿成 Theranos 那样的骗局。”

据黑吉记载,多批资深员工因担忧奥特曼的领导能力与不透明作风,两次要求 Loopt 董事会罢免其 CEO 职务。但奥特曼也赢得了一批死忠支持者。一名前员工称,有董事回应:“这是萨姆的公司,都回去好好干活。”(一名董事否认罢免奥特曼的尝试是认真的。)Loopt 用户增长艰难,2012 年被一家金融科技公司收购。据一名知情人士透露,这笔收购很大程度上是为了给奥特曼保全面子。尽管如此,2014 年格雷厄姆从 YC 退休时,仍选定奥特曼接任总裁。“我在我们家厨房跟萨姆说了这事。” 格雷厄姆告诉《纽约客》,“他笑了,就像终于成了的样子。我从没见过萨姆如此不加掩饰的笑容。就像你把纸团从房间一头扔进垃圾桶时的那种笑容。”

28 岁的奥特曼凭借这一新职位成为硅谷造王者。他的工作是挑选最饥渴、最有潜力的创业者,为他们对接顶尖程序员与投资人,帮助其创业公司成长为定义行业的巨头(同时 YC 抽取 6% 到 7% 的股份)。奥特曼任内推动 YC 激进扩张,孵化创业公司从几十家增至数百家。但多名硅谷投资人逐渐认为他忠诚度分裂。一名投资人告诉我们,奥特曼 “会有选择性地对最优质公司进行个人投资,排挤外部投资人”。(奥特曼否认排挤任何人。)他曾为红杉资本担任 “投资侦察员”,该项目会投资早期创业公司并抽取少量利润分成。一名知情人士称,奥特曼对金融服务初创公司 Stripe 进行天使投资时,坚持要求更高份额,激怒了红杉合伙人。该人士补充道:“这就是‘萨姆优先’的原则。” 据他自己估计,奥特曼投资了约 400 家公司。(奥特曼否认对 Stripe 交易的这种描述。2010 年前后,他向 Stripe 初始投资 1.5 万美元,占股 2%。如今该公司估值已超 1500 亿美元。)

到 2018 年,多名 YC 合伙人对奥特曼的行为极为不满,找到格雷厄姆投诉。格雷厄姆与妻子、YC 联合创始人杰西卡・利文斯顿显然与奥特曼进行了坦诚对话。此后,格雷厄姆开始对外表示,尽管奥特曼已同意离职,但实际却在拖延。奥特曼对部分 YC 合伙人称,他将辞去总裁职务,转任董事长。2019 年 5 月,一篇宣布 YC 新任总裁的博客文章附带说明:“萨姆将转任 YC 董事长。” 数月后,文章修改为 “萨姆・奥特曼卸任 YC 所有正式职务”;再之后,这句话被完全删除。然而,直到 2021 年,美国证券交易委员会文件仍将奥特曼列为 Y Combinator 董事长。(奥特曼称他很久之后才知晓此事。)

多年来,奥特曼无论公开场合还是近期证词中都坚称,自己从未被 YC 解雇,并告诉我们他并未抗拒离职。格雷厄姆曾发推文表示:“我们不是想让他离开,只是希望他在 YC 和 OpenAI 之间做选择。” 他在一份声明中告诉我们:“我们没有解雇任何人的法定权力,只能施加道德压力。” 但私下里,他明确表示奥特曼是因 YC 合伙人不信任而被赶走的。本文对奥特曼 YC 时期的记述,基于与多名 YC 创始人和合伙人的访谈及同期材料,均显示此次离职并非完全自愿。格雷厄姆曾对 YC 同事表示,在被赶走之前,“萨姆一直在对我们撒谎”。

2015 年 5 月,奥特曼给当时全球富豪榜排名第 100 位的埃隆・马斯克发去邮件。和许多硅谷知名创业者一样,马斯克对一系列他认为关乎人类生存的紧迫威胁忧心忡忡,尽管在大多数人看来这些都只是牵强假设。“我们必须对人工智能极度谨慎。” 他发推文称,“其潜在危险性可能超过核武器。”

奥特曼总体上是技术乐观主义者,但他对人工智能的论调很快转向末日警示。公开场合以及与马斯克等人的私人通信中,他警告称,这项技术不应由逐利的巨型企业垄断。“我一直在思考,人类是否有可能停止研发人工智能。” 他给马斯克写道,“如果终究无法阻止,那由谷歌之外的玩家率先实现或许会更好。” 他沿用核武器的类比,提出 “人工智能版曼哈顿计划”。他勾勒出这一机构的核心原则 ——“安全必须是首要要求”;“显然我们会遵守并积极支持所有监管”—— 随后他与马斯克敲定了一个名字:OpenAI。

与催生原子弹的政府项目曼哈顿计划不同,OpenAI 至少在初期由私人出资。奥特曼预测,超级人工智能 —— 理论上超越通用人工智能、机器能力全面超越人类心智的临界点 —— 最终将创造足够巨大的经济价值,“捕获宇宙未来所有价值的光锥”。但他也警告存在生存风险。某一时刻,其国家安全影响可能极端严峻,以至于美国政府必须接管 OpenAI,或许会将其国有化并迁至沙漠中的安全掩体。到 2015 年底,马斯克被说服。“我们应该宣布启动 10 亿美元资金承诺。” 他写道,“其他人不出的部分我来兜底。”

奥特曼将 OpenAI 置于 Y Combinator 的非营利部门之下,包装为内部慈善项目。他向 OpenAI 新员工发放 YC 股权,并通过 YC 账户接收捐赠。某一时期,实验室由一支他持有个人股份的 YC 基金支持。(奥特曼后来说这笔股份微不足道。他告诉我们,给新员工的 YC 股票属于他个人。)

曼哈顿计划的类比也延伸到员工招募上。与核裂变研究一样,机器学习是一个规模小但影响划时代的科学领域,由一群特立独行的天才主导。马斯克、奥特曼,以及从 Stripe 加入的布罗克曼坚信,当世仅有少数计算机科学家能实现所需突破。谷歌拥有巨大的资金优势与数年先发优势。“我们在人员和装备上都被碾压,差距大得离谱。” 马斯克后来在一封邮件中写道,“但只要我们能长期吸引最顶尖人才,且方向正确,OpenAI 就会胜出。”

头号招募目标是苏茨克维,一名专注内向的研究者,常被誉为其同辈中最具天赋的人工智能科学家。1986 年出生于苏联的苏茨克维发际线后退,眼神深邃,说话时常停顿、目不转睛地斟酌措辞。另一个目标是达里奥・阿莫迪,一名生物物理学家,精力异常旺盛,总紧张地捻着黑发,回复一行邮件常会写成多段长文。两人在其他机构都有高薪职位,但奥特曼对他们倾注了大量关注。他后来开玩笑说:“我跟踪了伊利亚。”

马斯克名气更大,但奥特曼手段更圆滑。他给阿莫迪发邮件,约在一家印度餐厅一对一晚餐。(奥特曼:“该死,我打的优步撞车了!大概晚 10 分钟。” 阿莫迪:“哇,希望你没事。”)和许多人工智能研究者一样,阿莫迪认为,只有证明技术与人类价值观 “对齐”—— 即按照人类意愿行事,不犯致命错误,比如接到净化环境指令后消灭最大污染源人类 —— 才值得研发。奥特曼态度安抚,附和这些安全担忧。

后来加入公司的阿莫迪,多年来一直详细记录奥特曼与布罗克曼的行为,标题为 “我与 OpenAI 的经历”(副标题:“私密:请勿外传”)。硅谷同行间流传着两百多页与阿莫迪相关的文件,包括这些笔记、内部邮件与备忘录,但此前从未公开。在笔记中,阿莫迪写道,奥特曼的目标是打造一家 “专注安全的人工智能实验室(或许不会立刻开始,但会尽快推进)”。

2015 年 12 月,OpenAI 公开宣布前几小时,奥特曼给马斯克发邮件,称有传言谷歌 “明天会给 OpenAI 所有人开出巨额挽留报价,试图扼杀我们”。马斯克回复:“伊利亚给出确定答复了吗?” 奥特曼向他保证苏茨克维立场坚定。谷歌为苏茨克维开出年薪 600 万美元,OpenAI 根本无法匹敌。但奥特曼夸口:“可惜他们没有‘做正确的事’这张牌。”

马斯克为 OpenAI 提供了位于旧金山米申区一家旧行李箱工厂的办公场地。苏茨克维告诉我们,公司对员工的宣传是:“你们将拯救世界。”

OpenAI 创始团队相信,一切顺利的话,人工智能将开启后稀缺乌托邦时代,自动化繁重劳动、治愈癌症,让人们解放出来享受休闲与富足。但一旦技术失控或落入坏人之手,毁灭将是彻底的。中国可能用它研发新型生物武器或先进无人机舰队;人工智能模型可能摆脱监管者控制,在秘密服务器自我复制,无法被关停;极端情况下,它可能控制电网、股市或核武库。至少可以说,并非所有人都相信这一点,但奥特曼一再确认自己深信不疑。他 2015 年在博客中写道,超人类机器智能 “不必是科幻作品里那种纯粹邪恶的版本,也能灭绝人类。更可能的场景是,它根本不在乎人类,但为了完成某个其他目标…… 将我们抹去”。OpenAI 创始人誓言不将速度置于安全之上,公司章程将造福人类定为法定义务。如果人工智能将成为史上最强大技术,那么单独掌控它的人将变得无比强大 —— 创始团队将这种 scenario 称为 “AGI 独裁”。

奥特曼告诉早期员工,OpenAI 将保持纯粹非营利,程序员们为此大幅降薪入职。公司接受慈善拨款,包括当时名为 “开放慈善项目” 机构的 3000 万美元资助,该机构是有效利他主义运动的核心平台,资助项目包括向全球贫困人口发放蚊帐。

布罗克曼与苏茨克维负责 OpenAI 日常运营,马斯克和奥特曼仍忙于其他工作,每周到访约一次。但到 2017 年 9 月,马斯克已失去耐心。在讨论是否将 OpenAI 改组为营利性机构时,他要求获得多数控制权。奥特曼的回应视场合而定。他始终坚持的核心诉求似乎是,如果 OpenAI 重组由 CEO 掌控,这一职位必须由他担任。苏茨克维对此感到不安。他代表自己和布罗克曼,给马斯克和奥特曼发了一封长长的恳切邮件,主题为 “坦诚的想法”。他写道:“OpenAI 的目标是创造美好未来,避免 AGI 独裁。” 他接着对马斯克说:“因此,建立一种可能让你成为独裁者的架构是糟糕的想法。” 他向奥特曼表达了类似担忧:“我们不明白 CEO 头衔为何对你如此重要。你给出的理由一直在变,很难真正理解背后动机。”

“伙计们,我受够了。” 马斯克回复,“要么你们自己单干,要么继续以非营利形式运营 OpenAI”—— 否则 “我就像个傻瓜,基本上在免费给你们投钱创业”。五个月后,他愤然离职。(2023 年,他创立营利性竞争对手 xAI。次年,他以欺诈和违背慈善信托为由起诉奥特曼与 OpenAI,声称自己被 “奥特曼的长期骗局” 精心算计 —— 奥特曼利用他对人工智能风险的担忧骗取其资金。该案仍在审理中,OpenAI 已强烈抗辩。)

马斯克离开后,阿莫迪等研究员对布罗克曼和苏茨克维的领导感到不满,有人认为布罗克曼行事粗暴,苏茨克维虽有原则但缺乏条理。在升任 CEO 的过程中,奥特曼似乎对公司不同派系做出了不同承诺。他向部分研究员保证,布罗克曼的管理权限将被削弱。但在他们不知情的情况下,他还与布罗克曼、苏茨克维达成秘密协议:奥特曼获得 CEO 头衔;作为交换,他承诺若另外两人认为必要,他将辞职。(他否认这一描述,称自己只是应要求才担任 CEO。三人都确认协议存在,不过布罗克曼称其是非正式的。“他单方面告诉我们,如果我们两人同时要求,他就下台。” 他告诉我们,“我们对此表示反对,但他说这对他很重要。这纯粹是出于公心。”)后来,董事会震惊地发现,CEO 实际上设立了自己的影子董事会。

内部记录显示,创始团队早在 2017 年就对非营利架构私下存疑。当年马斯克试图夺权后,布罗克曼在日记中写道:“不能说我们坚守非营利…… 如果三个月后改成共益企业,那就是谎言。” 阿莫迪在早期笔记中回忆,曾追问布罗克曼其优先事项,布罗克曼回答他想要 “金钱与权力”。布罗克曼对此予以否认。他这一时期的日记显示内心矛盾。一条写道:“只要别人也不暴富,我自己不发财也开心。” 另一条他自问:“那我真正想要的是什么?” 答案包括 “财务上达到 10 亿美元身家”。

2017 年,苏茨克维在办公室读到谷歌研究员刚发表的一篇论文,提出 “一种全新的简单网络架构:Transformer”。他从椅子上跳起来,跑过走廊对同事说:“停下手里所有事。就是它了。” 苏茨克维意识到,Transformer 这一创新可能让 OpenAI 训练出无比先进的模型。这一发现孕育出首个生成式预训练 Transformer——ChatGPT 的雏形。

我们了解到,随着技术日益强大,OpenAI 约十几名顶尖工程师召开一系列秘密会议,讨论包括布罗克曼和奥特曼在内的创始团队是否值得信任。其中一次会议上,一名员工想到英国喜剧双人组米切尔和韦伯的小品:东线战场的一名纳粹士兵突然清醒,问道:“我们是坏人吗?”

到 2018 年,阿莫迪开始更公开地质疑创始团队的动机。“一切都是轮番上演的募资把戏。” 他后来在笔记中写道,“我觉得 OpenAI 需要的是清晰声明:要做什么、不做什么、它的存在如何让世界变得更好。”OpenAI 早已拥有使命宣言:“确保通用人工智能造福全人类。” 但阿莫迪不清楚这对高管意味着什么,甚至是否有任何意义。阿莫迪称,2018 年初,他开始起草公司宪章,并在与奥特曼和布罗克曼数周的讨论中,力推其中最激进的条款:如果一个 “价值对齐、重视安全” 的项目在 OpenAI 之前接近造出 AGI,公司将 “停止竞争,转而协助该项目”。这一条款被称作 “合并与协助”,例如,如果谷歌研究员率先造出安全 AGI,OpenAI 可停止运营并捐赠资源。按常规企业逻辑,这一承诺近乎疯狂。但 OpenAI 本就不该是常规公司。

2019 年春,这一前提遭遇考验,OpenAI 与微软谈判十亿美元投资。尽管领导公司安全团队的阿莫迪曾协助向比尔・盖茨推介这笔交易,但团队中许多人对此感到焦虑,担心微软会加入条款架空 OpenAI 的道德承诺。阿莫迪向奥特曼提交一份安全诉求优先级列表,将保留 “合并与协助” 条款列为首位。奥特曼同意这一要求,但 6 月交易即将完成时,阿莫迪发现新增了一项条款,赋予微软阻止 OpenAI 任何合并的权力。“宪章 80% 的内容都被背叛了。” 阿莫迪回忆道。他当面质问奥特曼,后者否认该条款存在。阿莫迪当场朗读条款文本,并最终迫使另一名同事向奥特曼证实其存在。(奥特曼称不记得此事。)阿莫迪的笔记记录了不断升级的激烈冲突,包括数月后奥特曼召见他和在公司安全与政策部门工作的姐姐丹妮拉,称他从一名高管处得到 “可靠消息”,两人正在策划政变。笔记继续写道,丹妮拉 “情绪失控”,找来那名高管对质,对方否认说过此话。据一名知情人士回忆,奥特曼随后否认自己提出过这一指控。“我根本没这么说。” 他说。丹妮拉回应:“你刚刚才说过。”(奥特曼称记忆不完全一致,他只指责阿莫迪兄妹有 “政治操弄行为”。)2020 年,阿莫迪、丹妮拉与其他同事离职创立 Anthropic,如今已是 OpenAI 的主要竞争对手之一。

奥特曼继续高调宣扬 OpenAI 对安全的承诺,尤其在潜在新员工面前。2022 年底,四名计算机科学家发表论文,部分动机源于对 “欺骗性对齐” 的担忧 —— 足够先进的模型可能在测试中伪装表现良好,部署后却追求自身目标。(这是多个听起来像科幻小说的人工智能场景之一,但在某些实验条件下已真实发生。)论文发表几周后,作者之一、加州大学伯克利分校博士生收到奥特曼邮件,称他愈发担忧未对齐人工智能的威胁。他补充说,正考虑为此投入 10 亿美元,许多人工智能专家认为这是全球最重要的未解难题,可能设立奖项激励全球研究者攻关。尽管这名博士生 “隐约听说过萨姆行事圆滑”,但他告诉我们,奥特曼的承诺打动了他。他请假休学加入 OpenAI。

但在 2023 年春的数次会议中,奥特曼态度似乎摇摆不定。他不再提及设立奖项,转而主张成立内部 “超级对齐团队”。官方公告提及公司算力储备,承诺该团队将获得 “我们迄今已获取算力的 20%”—— 这一资源价值可能超过 10 亿美元。公告称,这项工作至关重要,因为如果对齐问题无法解决,AGI 可能 “导致人类丧失权力甚至灭绝”。被任命与苏茨克维共同领导该团队的扬・莱克告诉我们:“这是相当有效的留人手段。”

然而,20% 的承诺最终化为泡影。四名在该团队工作或密切合作的人士表示,实际资源仅占公司算力的 1% 至 2%。此外,一名团队研究员称:“大部分超级对齐算力都用在最老旧、芯片最差的集群上。” 研究员认为更好的硬件被留作盈利用途。(OpenAI 对此予以否认。)莱克向时任公司首席技术官的穆拉蒂投诉,但对方让他别再纠缠 —— 这一承诺本就不现实。

一名前员工告诉我们,大约在这一时期,苏茨克维 “彻底被安全问题洗脑”。OpenAI 早期,他认为灾难性风险担忧合理但遥远。如今,随着他确信 AGI 即将到来,担忧愈发强烈。这名前员工继续说,在一次全员大会上,“伊利亚站起来说,大家听着,未来几年某个时刻,公司里几乎所有人都必须转向安全工作,否则我们就完了。” 但次年,超级对齐团队便被解散,任务并未完成。

到那时,内部信息显示,高管与董事已开始认为,奥特曼的隐瞒与欺骗可能对 OpenAI 产品安全造成影响。2022 年 12 月一次会议上,奥特曼向董事保证,即将推出的 GPT4 多项功能已通过安全小组审核。董事兼人工智能政策专家托纳要求查看文件。她获悉,最具争议的两项功能 —— 允许用户 “微调” 模型用于特定任务,以及将其部署为个人助手 —— 并未获批。董事兼企业家麦考利离开会议时,一名员工拉到一旁,问她是否知晓印度发生的 “违规事件”。奥特曼在数小时向董事会汇报时,从未提及微软在未完成必要安全审核的情况下,就在印度发布了 ChatGPT 早期版本。“这件事完全被无视了。” 当时的 OpenAI 研究员雅各布・希尔顿说。

尽管这些疏漏并未引发安全危机,但另一名研究员卡罗尔・温赖特表示,这是 “持续向产品优先于安全倾斜” 的一部分。GPT4 发布后,莱克给董事会成员发邮件。“OpenAI 已偏离使命。” 他写道,“我们将产品与收入置于首位,其次是人工智能能力、研究与规模化,对齐与安全排在第三位。” 他继续写道:“谷歌等其他公司也在学着加快部署、无视安全问题。”

麦考利在给其他董事的邮件中写道:“我认为我们确实到了董事会应加强监督力度的时刻。” 董事们试图应对这一日益严重的问题,却力不从心。“坦率说,就是一群没干过实事的二流货色。” 前董事 Sue Yoon 说。2023 年,公司准备发布 GPT4 Turbo 模型。正如苏茨克维在备忘录中详述,奥特曼显然告诉穆拉蒂,该模型无需安全批准,并援引总法律顾问杰森・权的话。但当穆拉蒂通过 Slack 询问杰森・权时,对方回复:“呃…… 不知道萨姆哪来的印象。”(杰森・权仍在 OpenAI 担任高管,公司发言人表示此事 “没什么大不了”。)

不久之后,董事会做出解雇奥特曼的决定 —— 随后全世界目睹奥特曼逆转局面。OpenAI 宪章版本仍挂在公司网站上,但知情人士表示,其内容已被稀释到毫无意义。去年 6 月,奥特曼在个人博客谈及超级人工智能时写道:“我们已越过事件视界,起飞已经开始。” 按宪章精神,这或许正是 OpenAI 应停止与其他公司竞争、转而合作的时刻。但在这篇题为《温和奇点》的文章中,他语调焕然一新,用狂喜乐观取代生存恐惧。“我们都会拥有更好的东西。” 他写道,“我们会为彼此创造越来越精彩的事物。” 他承认对齐问题仍未解决,但重新定义了它 —— 不再是致命威胁,而像 Instagram 算法引诱人们浪费时间一样,只是个小麻烦。

奥特曼常被怀着敬畏或怀疑形容为其世代最厉害的推销员。他的偶像之一史蒂夫・乔布斯据说拥有 “现实扭曲力场”—— 一种不容置疑的自信,让世界顺应其愿景。但就连乔布斯也从未对顾客说,不买他的 MP3 播放器,所爱之人就会死。2008 年,23 岁的奥特曼导师格雷厄姆写道:“你把他空降到食人族岛屿,五年后回来,他就是国王。” 这一判断并非基于奥特曼有限的过往成绩,而是他几乎无法遏制的求胜意志。有人建议格雷厄姆不要把 YC 校友列入全球顶级创业创始人榜单,他仍把奥特曼放了进去。“区区这点规则拦不住萨姆・奥特曼。” 他写道。

格雷厄姆本意是赞美。但奥特曼一些最亲密的同事对这一特质有不同看法。苏茨克维对人工智能安全愈发焦虑后,整理出关于奥特曼和布罗克曼的备忘录。这些文件在硅谷已近乎传奇;在某些圈子里,它们被直接称作 “伊利亚备忘录”。与此同时,阿莫迪仍在继续记录笔记。这些文件及相关材料记录了他从谨慎理想主义到警觉忧虑的转变。他的言辞比苏茨克维更激烈,时而怒斥奥特曼 ——“他的话几乎肯定全是鬼话”—— 时而惋惜自己未能纠正 OpenAI 的航向。

两份文件都没有所谓 “实锤”。相反,它们记录了一连串被指称的欺骗与操纵,单看每一件或许都让人不以为然:奥特曼据称把同一个职位许诺给两个人,对直播人选编造不同说法,在安全要求上撒谎。但苏茨克维得出结论,这种行为 “无法营造有利于安全 AGI 研发的环境”。阿莫迪与苏茨克维从未是密友,却得出相似结论。阿莫迪写道:“OpenAI 的问题就是萨姆本人。”

我们采访了一百多名亲身了解奥特曼商业行事方式的人士:现任与前任 OpenAI 员工及董事、奥特曼多处住所的访客与工作人员、他的同事与竞争对手、朋友与敌人,以及在硅谷逐利文化中兼具多重身份的多人。(OpenAI 与《纽约客》母公司康泰纳仕有协议,允许 OpenAI 在有限期限内将其内容展示在搜索结果中。)

有人为奥特曼的商业头脑辩护,将其对手尤其是苏茨克维和阿莫迪贬低为觊觎其位置的失败者。另一些人则将他们描绘成轻信、心不在焉的科学家,或是歇斯底里的 “末日论者”,沉迷于自己研发的软件会活过来杀死他们的妄想。前董事 Sue Yoon 认为,奥特曼 “不是马基雅维利式的反派”,只是到了 “无能” 的程度,能让自己相信推销说辞中不断变化的现实。“他太沉浸于自我信念。” 她说,“所以他做的事,在现实世界里毫无意义。但他根本不活在现实世界。”

但我们采访的大多数人都认同苏茨克维和阿莫迪的判断:奥特曼拥有 relentless 的权力欲,即便在把名字刻在太空飞船上的实业家中也格外突出。“他不受真相约束。” 这名董事告诉我们,“他身上有两种极少同时出现的特质。一是强烈的取悦欲,希望在每次互动中都被喜欢。二是近乎反社会般无视欺骗他人可能带来的后果。”

这名董事并非唯一主动使用 “反社会” 一词的人。奥特曼在 Y Combinator 首期的同期学员艾伦・施瓦茨是一名才华横溢却深陷困境的程序员,2013 年自杀身亡,如今在科技界被视作某种圣人。去世前不久,施瓦茨向多名朋友表达了对奥特曼的担忧。“你要明白,萨姆永远不可信。” 他对一人说,“他是反社会者,什么事都做得出来。” 微软多名高管表示,尽管纳德拉长期忠诚,但公司与奥特曼的关系已变得紧张。“他歪曲事实、扭曲信息、重新谈判、违背协议。” 一人说。今年早些时候,OpenAI 重申微软为其 “无状态” 模型的独家云服务商。当天,公司又宣布一笔 500 亿美元交易,任命亚马逊为其人工智能代理企业平台的独家经销商。尽管转售行为被允许,但微软高管认为 OpenAI 的计划可能与微软的排他性冲突。(OpenAI 坚称亚马逊交易不违反此前合同;微软发言人表示公司 “相信 OpenAI 理解并尊重” 其法律义务。)这名微软高管评价奥特曼:“我认为有很小但真实的可能,他最终会被视作伯尼・麦道夫或萨姆・班克曼 - 弗里德曼级别的骗子。”

奥特曼并非技术专家 —— 据其身边多人称,他缺乏广泛的编程或机器学习专业知识。多名工程师回忆他误用或混淆基础技术术语。他打造 OpenAI,很大程度上依靠整合他人的资金与技术人才。这并不独特,只是一名商人的做法。更非凡的是,他能说服谨慎的工程师、投资者和对科技持怀疑态度的公众,他们即便相互冲突的诉求也是他的诉求。当这些人试图阻碍他下一步行动时,他总能找到言辞化解,至少暂时如此;通常等他们对他失去耐心时,他已拿到所需。“他会设立架构,纸面约束自己未来行为。” 前 OpenAI 研究员温赖特说,“但当未来到来、需要受约束时,他就抛弃这些架构。”

“他说服力惊人,简直像绝地控心术。” 一名与奥特曼合作过的科技高管说,“他就是另一个层级。” 对齐研究中一个经典假设场景,是人类与高性能人工智能之间的意志较量。研究者通常认为,这种较量中人工智能必胜,就像国际象棋大师击败孩童。这名高管继续说,目睹奥特曼在 “小波动” 期间智胜身边人,就像看着 “AGI 逃出牢笼”。

被解雇后的几天里,奥特曼极力避免针对自己的指控接受外部调查。他对两人表示,担心即便调查存在也会让他显得有罪。(奥特曼否认此事。)但在离任董事将离职条件设为开展独立调查后,奥特曼同意对 “近期事件” 进行 “审查”。据谈判知情人士称,两名新任董事坚持由他们掌控审查。萨默斯拥有政界与华尔街人脉网络,似乎为审查赋予了可信度。(去年 11 月,萨默斯因邮件曝光显示他在与年轻门生恋爱期间寻求杰弗里・爱泼斯坦建议而辞去董事职务。)OpenAI 聘请知名律所 WilmerHale 开展审查,该律所曾负责安然与世通的内部调查。

六名接近调查的人士声称,调查似乎旨在限制透明度。其中有人称,调查人员最初未联系公司重要人物。一名员工联系萨默斯和泰勒投诉。“他们只关心董事会闹剧期间发生的狭窄范围事件,不关注他诚信问题的历史。” 这名员工回忆自己接受调查人员访谈时的感受。另一些人因担心无法充分保障匿名性,不愿分享对奥特曼的担忧。“一切迹象都表明,他们想要的结果就是宣告他无罪。” 这名员工说。(部分涉案律师为程序辩护,称 “这是一次独立、严谨、全面的审查,依据事实展开”。泰勒也称审查 “彻底且独立”。)

企业调查旨在赋予合法性。私营公司的调查结果有时不会形成书面记录,这可限制责任。但涉及公共丑闻的案件,通常对透明度有更高期待。2017 年卡兰尼克离开优步前,其董事会聘请外部机构并向公众发布 13 页摘要。鉴于 OpenAI 的 501 (c)(3) 非营利身份及解雇事件的高关注度,公司多名高管期待看到详尽调查结果。然而 2024 年 3 月,OpenAI 宣布为奥特曼洗脱罪名,但未发布报告。公司在网站上发布约 800 字声明,承认 “信任破裂”。

调查知情人士称,未发布报告是因为根本没有书面报告。相反,调查结果仅限于口头简报,传达给萨默斯和泰勒。“审查并未得出萨姆诚信如乔治・华盛顿般无瑕的结论。” 一名接近调查的人士说。但调查似乎并未聚焦奥特曼被解雇背后的诚信问题,而是大量搜寻明确犯罪行为;在此基础上,结论认为他可继续担任 CEO。此后不久,被解雇时逐出董事会的奥特曼重新加入。这名接近调查的人士告诉我们,不形成书面报告的决定,部分是听取萨默斯和泰勒私人律师的建议。(萨默斯拒绝公开发表评论。泰勒表示,鉴于口头简报,“无需正式书面报告”。)

多名 OpenAI 现任与前任员工告诉我们,他们对信息不公开感到震惊。奥特曼称,他相信复职后加入的所有董事都收到了口头简报。“这是彻头彻尾的谎言。” 一名直接知情人士说。部分董事表示,关于报告诚信度的持续质疑可能导致,用一人的话说,“需要另一场调查”。

没有书面记录有助于淡化指控。奥特曼在硅谷的地位日益提升也起到同样作用。多名与奥特曼合作过的知名投资人告诉我们,他有排挤支持 OpenAI 竞争对手投资人的名声。“如果他们投资他不喜欢的项目,就无法参与其他机会。” 一人说。奥特曼权力的另一个来源是其庞大的投资清单,有时延伸到个人生活。他与多名前伴侣存在财务关联:作为基金联合管理人、领投方或频繁联合投资人。这几乎不算罕见,硅谷许多异性恋高管也对伴侣如此行事。(一名知名 CEO 告诉我们:“你必须这么做。”)“我显然之后和一些前任有过投资合作,我觉得这完全没问题。” 奥特曼说。但这种关系带来了极高程度的控制。“这制造了非常、非常高的依赖性,本质上是终身依赖。” 一名接近奥特曼的人士说。

就连前同事也可能受影响。穆拉蒂 2024 年离开 OpenAI,开始打造自己的人工智能初创公司。奥特曼的亲密盟友乔希・库什纳给她打电话。他称赞她的领导力,随后发出看似隐晦的威胁,称他 “担忧” 她的 “声誉”,前同事如今已将她视为 “敌人”。(库什纳通过发言人表示,这一描述未 “传达完整背景”;奥特曼称不知晓这通电话。)

上任初期,奥特曼宣布 OpenAI 将成立 “利润封顶” 公司,由非营利机构控股。这一复杂的公司架构在奥特曼设计之前显然不存在。转型期间,董事霍尔登・卡诺夫斯基对此表示反对,认为非营利机构被严重低估。“我无法诚信地这么做。” 身为阿莫迪姐夫的卡诺夫斯基说。据同期笔记记载,他投了反对票。然而,在一名董事会律师表示其异议 “可能成为进一步调查新架构合法性的信号” 后,他的投票未经同意被记录为弃权 —— 涉嫌伪造商业记录。(OpenAI 告诉我们,多名员工记得卡诺夫斯基弃权,并提供了会议记录显示其投票为弃权。)

去年 10 月,OpenAI “资本重组” 为营利实体。公司吹捧其关联非营利机构 —— 现名 OpenAI 基金会 —— 为史上 “资源最充足” 的基金会之一。但如今该基金会仅持有公司 26% 股份,其董事除一人外,均同时担任营利机构董事。

国会作证时,奥特曼被问及是否 “赚了很多钱”。他回答:“我在 OpenAI 没有股权…… 我做这份工作是因为热爱。”—— 考虑到他通过 YC 基金持有间接股权,这是一句谨慎的回答。这在技术上仍成立。但包括奥特曼在内的多人向我们表示,情况可能很快改变。“投资人说,我需要知道你在困难时期会坚持下去。” 奥特曼说,但补充称目前没有 “积极讨论” 此事。据法庭证词,布罗克曼似乎持有价值约 200 亿美元的公司股份。奥特曼的份额想必更高。尽管如此,他告诉我们,财富并非他的主要动机。一名前员工回忆他说:“我不在乎钱,我更在乎权力。”

2023 年,奥特曼与马尔赫林在夏威夷一处住所举行小型婚礼结婚。(两人九年前在彼得・蒂尔的热水浴缸深夜相识。)他们在这处房产接待过众多客人,我们采访的人士称,所见无非是超级富豪的常规消遣:私人厨师烹制的餐食、黄金时段的乘船出游。一场新年派对以 “幸存者” 为主题;照片中多名赤裸上身、笑容满面的男士,还有真实版《幸存者》主持人杰夫・普罗斯特。奥特曼还在自己的房产接待过小批朋友,至少有一次聚会包括一场热闹的脱衣扑克游戏。(照片未包含奥特曼,不清楚谁赢了,但至少三名男士显然输了。)我们采访了奥特曼的多名前客人,他们仅表示他是慷慨的主人。

尽管如此,关于奥特曼私生活的谣言被竞争对手利用和歪曲。残酷的商业竞争本就常见,但人工智能行业的竞争已变得异常凶狠。(一名 OpenAI 高管用 “莎士比亚式” 形容,并称 “游戏的常规规则已不再适用”。)与马斯克直接关联、至少一人获其报酬的中间人,散布了数十页针对奥特曼的详细负面研究材料。这些材料反映了大规模监控,记录与他关联的空壳公司、亲密伙伴的个人联系方式,甚至在同性恋酒吧进行的关于所谓性工作者的采访。一名马斯克中间人声称,奥特曼的航班与参加的派对正被追踪。奥特曼告诉我们:“我觉得没人比我被雇佣更多私家侦探。”

极端言论四处流传。右翼主播塔克・卡尔森无明显证据暗示,奥特曼与一名举报人死亡有关。这一说法及其他言论被竞争对手放大。奥特曼的妹妹安妮在诉讼及接受我们采访时声称,他从她三岁、他十二岁起长期对她实施性虐待。(我们无法证实安妮的说法,奥特曼予以否认,其兄弟与母亲称其 “完全不实”,给 “整个家庭带来巨大痛苦”。记者卡伦・郝为撰写《人工智能帝国》一书采访安妮时,安妮称虐待记忆是成年后闪回恢复的。)

多名竞争对手公司与投资机构人士向我们暗示,奥特曼性侵未成年人 —— 这一说法在硅谷流传甚广,看似不实。我们花数月调查此事,进行数十次采访,未发现任何支持证据。“这是竞争对手的恶心行为,我认为是试图在我们即将到来的案件中污染陪审团。” 奥特曼告诉我们,“尽管说出来很荒唐,但任何关于我性侵未成年人、雇佣性工作者或涉及谋杀的指控均完全不实。” 他补充说,他 “有点感激” 我们花数月 “如此积极地调查此事”。

奥特曼已承认与成年年轻男性约会。我们采访了他的多名伴侣,他们表示不认为这有问题。但马斯克中间人制作的负面档案将其作为攻击点。(档案包含低俗且无根据的 “鲜肉军团” 与 “干爹性习惯” 等表述。)“我认为存在大量恐同情绪被煽动。” 奥特曼说。科技记者斯维舍表示同意。“所有这些有钱人都做疯狂的事,比我听说的萨姆的所作所为更过分。” 她告诉我们,“但他是旧金山的同性恋者,所以这被当作武器。”

十年来,社交媒体高管承诺改变世界且几乎无负面影响。他们将希望放缓其发展的立法者斥为卢德分子,最终招致两党嘲讽。相比之下,奥特曼显得格外尽责。他非但不抗拒监管,几乎是主动恳求监管。2023 年在参议院司法委员会作证时,他提议设立新联邦机构监督先进人工智能模型。“如果这项技术出错,后果会非常严重。” 他说。以与科技 CEO 激烈交锋闻名的路易斯安那州参议员约翰・肯尼迪似乎被打动,手托着脸暗示或许应由奥特曼亲自执行规则。

但奥特曼公开欢迎监管的同时,私下却游说反对。据《时代》报道,2022 至 2023 年,OpenAI 成功施压稀释欧盟一项法案,该法案本会让大型人工智能公司接受更多监督。2024 年,加利福尼亚州议会提出一项法案,要求对人工智能模型进行安全测试。其条款与奥特曼国会作证时倡导的内容相似。OpenAI 公开反对该法案,私下却开始发出威胁。“我要说,这一年里,我们看到 OpenAI 越来越狡猾、欺骗的行为。” 一名立法助手告诉我们。

投资人康威游说包括南希・佩洛西与加文・纽森在内的州政界领袖扼杀该法案。最终,法案获两党支持在议会通过,但纽森否决了它。今年,支持人工智能监管的国会候选人面临由新 “亲人工智能” 超级政治行动委员会 “引领未来” 资助的对手,该委员会致力于阻挠此类限制。OpenAI 官方立场是不会向此类超级政治行动委员会捐款。“这一问题超越党派政治。” 莱汉近期告诉 CNN。然而,“引领未来” 的主要捐赠者之一是格雷格・布罗克曼,他已承诺 5000 万美元。(今年,布罗克曼与妻子向支持特朗普的超级政治行动委员会 MAGA Inc. 捐赠 2500 万美元。)

OpenAI 的活动已超出传统游说范围。去年,加州参议院提出一项后续法案。一天晚上,在非营利组织 Encode 工作、协助起草法案的 29 岁律师内森・卡尔文正与妻子在家吃晚餐,一名送达人上门递交 OpenAI 的传票。公司声称在寻找马斯克秘密资助其批评者的证据,但要求卡尔文提供所有与加州参议院该法案相关的私人通信。“他们本可以问我们,‘你们是否与埃隆・马斯克交谈过或收过他的钱?’—— 我们并没有。” 卡尔文告诉我们。该法案的其他支持者及批评 OpenAI 营利化重组的人士也收到传票。“他们针对这些人,基本上是恐吓他们闭嘴。” 詹姆斯・欧文基金会负责人唐・霍华德说。(OpenAI 称这是标准法律程序的一部分。)

奥特曼长期支持民主党。“我非常警惕强大的独裁者用恐惧故事抱团欺压弱者。” 他告诉我们,“这是犹太人的立场,不是同性恋的立场。”2016 年,他支持希拉里・克林顿,称特朗普 “对美国构成前所未有的威胁”。2020 年,他向民主党与拜登胜利基金捐款。拜登政府期间,奥特曼至少六次在白宫会面。他协助制定一项冗长行政命令,确立首个联邦人工智能安全测试与其他监管框架。拜登签署该命令时,奥特曼称其 “良好开端”。

2024 年,随着拜登民调支持率下滑,奥特曼的论调开始转变。他称:“我相信无论本次大选结果如何,美国都不会有事。” 特朗普胜选后,奥特曼向其就职基金捐赠了 100 万美元,随后又在就职典礼上与网红杰克・保罗、洛根・保罗自拍合影。他在 X 平台以一贯的小写体风格发文:“近期更仔细地观察 @美国总统,着实改变了我对他的看法(真希望当初我能多独立思考……)。” 特朗普重返白宫首日,便撤销了拜登颁布的人工智能行政令。一名拜登政府高级官员如此评价奥特曼:“他找到了让特朗普政府为自己办事的有效手段。”

马斯克仍在公开场合猛烈抨击奥特曼,称其为 “骗子奥特曼”“狡诈的萨姆”。(奥特曼曾在 X 上抱怨自己订购的一辆特斯拉汽车相关问题,马斯克回复:“你偷走了一家非营利机构。”)但在华盛顿政坛,奥特曼似乎已然在博弈中胜过了马斯克。马斯克为助特朗普连任花费超 2.5 亿美元,还在白宫供职数月,最终却离开华盛顿,期间也损害了与特朗普的关系。

如今,奥特曼已是特朗普青睐的商界大亨之一,甚至陪同特朗普前往温莎城堡拜访英国王室。奥特曼与特朗普每年都会通话数次。“你随时都能给他打电话,” 奥特曼表示,“我们算不上密友,但没错,若我有事需要和他沟通,就会打过去。” 去年特朗普在白宫设宴款待科技界领袖时,马斯克赫然缺席,奥特曼则坐在总统对面。特朗普说道:“萨姆,你是一位举足轻重的领袖。你之前跟我说的一些事,简直令人难以置信。”

多年来,奥特曼始终将研发通用人工智能的征程比作曼哈顿计划。罗伯特・奥本海默曾以拯救世界免遭纳粹毒手的激昂说辞,说服物理学家们放下原有生活前往洛斯阿拉莫斯;奥特曼则借助外界对其技术地缘战略风险的担忧,根据不同受众,用这一类比分别鼓吹加速研发或谨慎推进。2017 年夏,在与美国情报官员的一场会议中,他声称中国已启动 “通用人工智能曼哈顿计划”,OpenAI 需要数十亿美元政府资金才能跟上进度。当被要求拿出证据时,奥特曼只说:“我有所耳闻。” 这是他多次在会议中提出该说法的首次。其中一次会议结束后,他告知一名情报官员会补充证据,却始终未兑现。该官员调查所谓中国项目后得出结论:没有任何证据表明该项目存在,“这不过是他的融资说辞罢了。”(奥特曼称,自己不记得曾如此描述中方的相关行动。)

面对更注重安全的受众,奥特曼则用这一类比传递相反观点:通用人工智能必须在国际协作下谨慎研发,否则后果不堪设想。2017 年,阿莫代伊聘请前公益律师佩奇・赫德利担任 OpenAI 的政策与伦理顾问。在早期向高管展示的一份 PPT 中,赫德利阐述了 OpenAI 如何避免一场 “灾难性” 军备竞赛 —— 或许可以组建人工智能实验室联盟,最终与类似北约的国际机构协作,确保技术安全落地。据赫德利回忆,布罗克曼始终不理解这一思路如何帮助公司击败竞争对手。“无论我怎么解释,” 赫德利对我们说,“格雷格总绕回‘那我们怎么筹更多钱?怎么赢?’” 据多份采访记录与同期文件显示,布罗克曼提出了一个反方案:OpenAI 可以挑拨包括中俄在内的世界大国相互制衡,甚至挑起各国竞价,从中牟利。赫德利称,当时的核心逻辑似乎是:“核武器这么玩都行,人工智能为什么不行?”

赫德利对此感到震惊:“他们并未反驳这个前提 ——‘我们讨论的可能是人类有史以来最具破坏性的技术,要是把它卖给普京会怎样?’”(布罗克曼坚称,自己从未认真考虑过向各国政府拍卖人工智能模型。OpenAI 一名发言人表示:“当时只是初步探讨了可能促成国际合作的框架,类似人工智能领

评论 (0)

登录 后即可发表评论

暂无评论

更多