Vitalik Buterin提出AI治理的折中路径：以触发式暂停应对超级智能风险

摘要

AI治理分歧尖锐，两极观点并存当前AI发展路径正面临根本性分歧：一派坚信超级智能将在2040年前必然出现，主张必须提前建立强约束机制，甚至推动全球性暂停；另一派则视AI为常规技术演进，认为所谓‘风险’被刻意夸大...

AI治理分歧尖锐，两极观点并存当前AI发展路径正面临根本性分歧：一派坚信超级智能将在2040年前必然出现，主张必须提前建立强约束机制，甚至推动全球性暂停；另一派则视AI为常规技术演进，认为所谓‘风险’被刻意夸大，所谓‘安全倡议’实为大型科技公司垄断话语权、延缓竞争的策略。两种立场背后，是控制权、发展节奏与人类自主性的深层博弈。不站队，但强调警惕权力集中 Vitalik明确表示，自己尚未确信任一立场完全正确。他既未全盘接受‘立即严控’的紧迫叙事，也拒绝将AI简化为无害工具。他尤其警惕部分头部AI企业以‘开源有害’为由，实质收紧模型权重、训练数据与推理接口的开放权限——这种话语正在将AI能力悄然收束于少数私有基础设施之中，构成新型技术寡头结构。触发式暂停：一种务实的共识机制他提出一项程序性方案：各方可预先达成协议，设定若干可观测、可验证的极端社会后果作为‘暂停触发器’，例如全球性传染病死亡率异常跃升、特定经济体核心就业部门连续三年失业率突破阈值等。一旦任一指标被独立第三方（如国际公共卫生组织、劳工统计机构）确认达到临界值，即自动启动临时性研发协调机制，而非单边叫停。若长期未触发，则默认维持现有发展节奏。防御性技术是跨范式的共同底线 Vitalik指出，无论超级智能是否如期而至，形式化验证、零知识证明、可信执行环境（TEE）等底层安全技术，均能在‘强监管世界’与‘快速迭代世界’中同步增强系统鲁棒性。它们不预设AI意图，只强化人类对关键基础设施的可控性——这或许是当下最值得投入的确定性方向。