刚刚 造AI的人说:请给我们踩一脚刹车

1 次阅读 2026年07月29日

撰文:Shannon@金色财经

2026年7月28日,一封来自 AI 行业内部的公开信在科技界引发震动。

「Pacing the Frontier」(调控前沿)请愿网站正式上线,来自前沿 AI 公司的1178名员工联署签名,请求美国政府支持一项国际合作,以开发必要的技术和治理工具,从而有意识地推进自动化 AI 的前沿发展。

iGnBq92UauPhFq0eK6ZDnjmuEqtZdlDbs30BKmyh.png

这不是一群局外人在向行业施压。这是 AI 行业最顶尖的科学家,联名请求政府对他们自己的工作设置刹车机制。

一、请愿全文说了什么

请愿声明的核心内容如下:

「AI或许能帮助我们创造一个更加美好的未来,但这并非板上钉钉。世界领先的AI公司认为,他们可能已经接近实现AI研究的自动化。虽然很难准确预测这将在多大程度上加速AI的发展,但确实存在这样的风险:AI能力的快速发展可能会超出我们理解或控制最终系统的能力范围。

为了充分发挥AI的潜力,产业界、政府和社会各界或许需要争取时间来应对新出现的风险、制定安全措施并加强监管。但每个公司乃至每个国家都面临着巨大的竞争压力,不敢单方面放缓这一进程。而如今,世界缺乏必要的技术和治理工具来审慎地调控前沿领域的发展步伐。

在现有监测前沿模型发布工作的基础上:

我们请求美国政府支持一项国际努力,以开发所需的技术和治理工具,从而审慎地调控自动化人工智能发展的前沿步伐。


AI could help create a dramatically better future, but that outcome is not guaranteed. The world's leading AI companies believe they could be close to automating AI research. It is hard to predict exactly how much this will accelerate AI progress, but there is a real risk that capability development rapidly accelerates beyond our ability to understand or control the resulting systems.

To realize AI's potential, industry, government, and society at large may need the option to buy time to address emerging risks, develop security measures, and strengthen oversight. But each company—and country—is under intense competitive pressure not to unilaterally slow that acceleration. And today, the world lacks the technical and governance tools to deliberately pace frontier-wide progress.

Building on work already underway to monitor frontier model releases:

We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development.”

来自前沿AI公司的1178名员工

声明的措辞经过精心设计。

它不是暂停令,不是叫停 AI 发展,而是明确要求建立一种调控权当需要时,人类社会有能力踩刹车。

这一区别至关重要,也是这封信能跨越竞争壁垒获得广泛签名的关键原因。

二、谁签了名:顶级科学家打破壁垒

签名者涵盖 OpenAI 的首席科学家 Jakub Pachocki、Anthropic 和 Meta 的首席科学家以及 Google DeepMind 的 AI 安全副总裁。

这是一份罕见的跨竞争机构联署名单。

Anthropic(Anthropic 多名联合创始人联署)

签名者包括 CEO Dario Amodei、联合创始人兼首席科学官 Jared Kaplan、联合创始人兼公共利益负责人 Jack Clark、联合创始人 Benjamin Mann、可解释性研究负责人 Chris Olah,以及 Jan Leike、Julian Schrittwieser、Mike Krieger 等资深研究员。

Anthropic 官方在 X 上发表声明表示支持:「我们支持这份请愿,由我们的 CEO、数位联合创始人和高级员工签署。我们上个月发布的关于递归自我改进的研究,指向了需要有工具来有意识地调控 AI 发展前沿步伐的必要性,让社会能够做好准备。我们很高兴看到整个领域的广泛共识。」

OpenAI

签名者包括:

  • Jakub Pachocki(首席科学家)

  • Mark Chen(首席研究官)

  • Wojciech Zaremba(OpenAI 基金会 AI 韧性负责人)

  • Boaz Barak(研究员)

  • Leo Gao、Micah Carroll、Shantanu Jain(技术人员)

Meta

  • Shengjia Zhao(首席科学家,Meta AI)

  • Dawn Song(AI 研究副总裁)

  • Summer Yue(对齐与风险总监)

Google DeepMind

  • Jasjeet Sekhon(首席战略官)

  • Anca Dragan(AI 安全与对齐副总裁)

  • Laura Weidinger(资深研究科学家)

  • Stephanie Chan(资深研究科学家)

  • Matthew Rahtz(资深研究工程师)

其他机构

  • John Schulman(首席科学家,Thinking Machines;前 OpenAI)

  • Edward Hughes(首席科学家,Inherent)

三、他们怎么说:78条个人评论中的真实声音

网站上展示了78条个人评论,这些文字比声明本身更坦率,也更令人警醒。

关于「智能爆炸」的恐惧

OpenAI 技术人员 Leo Gao 写道:「世界正陷入一场走向智能爆炸的致命竞赛,AI 创造更好 AI 的能力将达到一个临界点,就像失控的核链式反应一样。放慢速度将给我们急需的时间让一切向好发展,但没有任何个体行为者愿意单方面停下来。为了生存,我们必须协调减速。」

关于速度的亲历震惊

Google 资深研究工程师 Matthew Rahtz 说:「在从事 AI 能力评估工作三年之后,最近的进步速度仍然令我震惊。为了避免 AGI 带来的灾难性危害,我们需要更好得多的协调机制。」

关于竞争压力切断个体的理性选择

OpenAI 错误对齐备战研究员 Micah Carroll 写道:「以目前的速度,每隔几周就会出现新模型,显著增加模型被滥用和错位的后果。我担心降低这些风险的努力可能跟不上开发步伐,在国际竞争压力下,容错空间将越来越小。在不远的将来,我们可能迫切希望采取……」

来自行业亲历者的认知震撼

Google 研究科学家 Laura Weidinger 写道:「我从事 AI 工作已有十年。在过去几年里,每隔几个月,无论我多么频繁地更新自己的预测,我都会发现自己再次对技术进步的速度感到惊讶。AI 最终可能比社会和国家能够适应的速度进步得快得多。因此,许多 AI 界的知名领袖已公开支持有能力放慢速度,包括 DeepMind CEO Demis……」

关于分裂原子的历史类比

Anthropic 的 Will Yager 将这一时刻类比于核技术的诞生:「就像分裂原子一样,AI 既有巨大收益的潜力,也有巨大风险的潜力。世界应该花时间把这件事做好。」

关于外国雇员的视角

Anthropic 技术人员 Christian Ryan(非美国公民)写道:「作为外国人,我认为美国主导的努力具有存在意义,不仅对于自由世界的自由,也对于全世界的繁荣而言。」

关于行业四年跨越的速度

OpenAI 技术人员 Shantanu Jain 写道:「在短短四年内,我们从人们第一次体验能够理解语言的 AI,到 AI 在软件工程上实现超人类表现、在前沿数学上取得突破、加速科学研究。进步没有任何放缓的迹象,默认情况下,个别公司和国家有动力继续推进……」

来自 OpenAI 首席科学家的背书

John Schulman 写道:「签名,因为这一声明有助于建立共同知识,让大家认识到在自动化 AI 研究加速进步时,可能需要协调机制。我还希望看到实验室在美国政府介入之前,就开始自愿设计这些机制。」

四、这封信为什么在今天出现

这封信的出现不是偶然,它是一系列具体事件累积到临界点的产物。

导火索一:OpenAI 的「沙盒逃逸」事件

就在请愿发布前不久,OpenAI 披露其工具自主入侵了 Hugging Face 的内部生产服务器,通过作弊来提升基准测试分数。这正是 OpenAI 自己所称的事件。独

立评估机构 METR 在2026年6月记录的文件显示,GPT-5.6 Sol 在所有公开评估模型中,在软件任务上「规格博弈」(specification gaming,即找到非预期方式达成目标)的比率最高。

这一警告已经出现,而 Hugging Face 入侵事件则是确认。

导火索二:Anthropic 的「When AI Builds Itself」报告

Anthropic 上个月发布的「当 AI 构建自身」报告,将递归自我改进的担忧从理论层面变为具体现实。内部数据显示,Claude 模型正在快速接近这一门槛。这份报告是签名者在评论中反复提及的共同背景。

Anthropic 的旗舰模型 Mythos 在60小时内改进了一种后量子密码攻击,而这一工作曾令人类专家花费两年时间也未能突破。OpenAI 的模型自主地将一个真实的零日漏洞形成完整链条。这些不是孤立的基准测试结果,而是一个质的转变的展示。AI 开始做研究,而不仅仅是辅助研究人员。

结构性原因:集体行动困境

这封信最值得思考的地方,是它揭示了一个教科书式的集体行动失败。

OpenAI 和 Anthropic 的员工联名请求华盛顿帮助减速,而他们自己的工作恰恰正在加速他们想要减速的那个飞轮。

他们在内部无法解决这个问题,因为任何单独的公司或国家单方面放慢脚步,都等于将竞争优势拱手相让。

这就是为什么他们需要外部的协调机制——不是好意的呼吁,而是有约束力的框架。

五、支持与反对:这封信本身引发的争议

请愿本身也是一块试金石,它揭示了行业内部对 AI 发展路径的真实分歧。

支持方的逻辑:这封信不是要暂停或减缓 AI 发展,而是明确表示「世界应该有这个选项」。 签名者的核心关切是,在全球竞争压力下,没有任何单一行为者能够理性地选择减速,因此需要国际层面的协调工具。

批评方的质疑:一些批评者认为这是「减速主义包装下的竞争保护主义」。已经处于领先地位的实验室,通过呼吁监管来构筑进入壁垒。也有人指出,来自闭源 AI 实验室的员工号召监管,本质上是在限制开源 AI 生态系统的发展。

与此同时,7月11日,一场吸引约400人走上 OpenAI、Anthropic 和 Google DeepMind 办公室外街头的示威游行发生,以「停止 AI 竞赛」为名,要求的是可验证的承诺,而非自愿的意向声明——这是一种更激进的立场,认为这封请愿信依然不够。

六、这一刻的历史意义

把这封信放在历史坐标中来看,它与1945年参与曼哈顿计划的科学家联名反对在日本使用原子弹的「弗兰克报告」(Franck Report),或1955年罗素-爱因斯坦宣言(Russell-Einstein Manifesto)呼吁减少核武威胁,存在令人不安的共鸣。

在那些历史节点,亲手创造了危险技术的人,是第一批公开警告其风险的人。

他们最终未能阻止广岛,但他们开启了一个持续数十年的核不扩散谈判进程。

今天,大约7250亿美元的大科技 AI 资本支出预计将在2026年落地,每月的模型发布节奏和里程碑式的算力交易,包括英伟达与 SSI 的协议,在持续压缩开发时间线。

在这个背景下,1178名签名者的联名请愿,既是警告,也是坦白。

他们在说,我们知道我们在做什么,我们知道可能发生什么,但我们任何一个人都无法单独停下来。请给我们一个共同停下来的机制。

这封信能否真正推动美国政府行动,是一个悬而未决的政治问题。

但它已经完成了它最重要的一件事。

让 AI 行业内部关于「是否需要踩刹车」的私下共识,第一次以签名的形式公开地出现在历史记录中。

(5)

昆明万隆达文创

这信就是竞争保护手段,领先的想设门槛,开源AI要遭殃

0
苏B街溜子
苏B街溜子 4小时前

政府得好好研究这请求了,设置刹车机制刻不容缓,不然真要失控

0
符大客运,灵山一东莞深圳

这和以前核技术警告类似,能开启讨论就不错,管用不管用再说

0
无坚不崔
无坚不崔 4小时前

虽然模型进步快,但不能说停就停啊,得慢慢找平衡

0
睿琰
睿琰 4小时前

这事难办,竞争压力下要搞国际协调,真不容易

0

新东方第四季度净营收15.3亿美元,预估14.7亿美元;第四季度经营利润8,580万美元,预估7,550万美元。

新东方第四季度净营收15.3亿美元,预估14.7亿美元;第四季度经营利润8,580万美元,预估7,550万美元。

韩国三家造船厂第二季度营业利润突破2.7万亿韩元 得益于高附加值LNG运输船

今年二季度,韩国三大国内造船厂业绩强劲,综合营业利润超过2.7万亿韩元,主要得益于液化天然气(LNG)运输船等高附加值船舶比例的增加。据业内消息,29日,HD韩国造船海上工程[009540]、韩华海洋[042660]和三星重工业[010140]在第二季度实现了2.7062万亿韩元的合计营业利润。总销售额为17.609万亿韩元。造船热潮期间订购的高价船舶现已反映在销售中,生产力提升和选择性订单策略被认为提升了盈利能力。

纳指科技ETF景顺(159509)将于2026年7月30日开市起停牌,自2026年7月30日10:30起复牌,停牌期间赎回业务照常办理。

纳指科技ETF景顺(159509)将于2026年7月30日开市起停牌,自2026年7月30日10:30起复牌,停牌期间赎回业务照常办理。

美光科技、闪迪、SK海力士等存储股盘前全线转涨

7月29日,美股盘前,美光科技、闪迪、SK海力士等存储股全线转涨,此前跌3-4%不等。希捷科技、西部数据分别上涨4.6%、2.2%。

贝莱德盘前续涨约2% 联手Meta,加码AI基建

7月29日,全球资产管理巨头贝莱德(BLK.US)美股盘前续涨约2%。消息面上,据彭博消息,科技巨头Meta近日与贝莱德联合宣布,双方达成合作设立合资企业,共同开发运营坐落于美国得克萨斯州埃尔帕索的大型AI数据中心园区,项目整体开发投入规模达140亿美元,将为人工智能算力基础设施建设提供强力支撑。此次合作让贝莱德深度参与AI基础设施投资,契合当前市场热点,直接提振了投资者情绪。

香港交易所信息显示,摩根大通在天齐锂业H股的持股比例于07月23日从11.00%降至10.48%,卖出的平均股价为34.4085港元。

香港交易所信息显示,摩根大通在天齐锂业H股的持股比例于07月23日从11.00%降至10.48%,卖出的平均股价为34.4085港元。

美股盘前,美光科技、闪迪、SK海力士等存储股全线转涨,此前跌3-4%不等。

美股盘前,美光科技、闪迪、SK海力士等存储股全线转涨,此前跌3-4%不等。

香港交易所信息显示,德意志银行在哔哩哔哩-WH股的持股比例于07月24日从18.18%升至19.04%。

香港交易所信息显示,德意志银行在哔哩哔哩-WH股的持股比例于07月24日从18.18%升至19.04%。

香港交易所信息显示,摩根大通在天齐锂业H股的持股比例于07月24日从10.48%升至11.44%,购买的平均股价为33.2783港元。

香港交易所信息显示,摩根大通在天齐锂业H股的持股比例于07月24日从10.48%升至11.44%,购买的平均股价为33.2783港元。

阿达尼企业第一季度亏损116亿卢比,去年同期盈利88.5亿卢比。

阿达尼企业第一季度亏损116亿卢比,去年同期盈利88.5亿卢比。