英国内政大臣警告勿等到“AI版广岛”

币界网报道： 外媒：英国外交大臣伊薇特·库珀表示，随着人工智能能力持续提升、应用范围迅速扩大，各国政府不能等到重大事故发生后才补建监管框架。她将当前局面与核时代早期相提并论，称 AI 可能成为未来十年最突出的安全挑战之一。 呼吁主要 AI 国家协调 库珀在周一发表的文章中说，AI 已在医疗和机器人领域展现出明显价值，但同一套技术也在改变战争、犯罪和社会运行方式。她主张英国利用外交影响力，推动美国、中国及其他主要 AI 国家建立共同的安全原则和标准。 她提到，2023 年在英国布莱切利园举行的 AI 安全峰会曾汇集 29 个国家和欧盟代表，讨论前沿 AI 的潜在风险。她认为，这类多边协调应在危机出现前推进，而不是等到破坏性后果发生后再被动应对。 以核治理作类比 库珀称，国际社会在核安全问题上形成共识，是在见识到原子武器破坏力之后才逐步推进的。她警告，AI 治理不能重复这一过程，不能等到出现“AI 版广岛”后才开始行动。 这篇文章延续了近几个月围绕前沿模型监管的讨论。随着模型在网络安全、自动化和军事相关场景中的能力增强，政府如何设定测试、披露和发布门槛，已成为欧美政策圈和行业内部的共同议题。 近期监管讨论升温 英国 AI 安全研究所今年 5 月曾警告，前沿模型在网络攻击模拟中的表现正在快速提升。报道提到，在 OpenAI 的 GPT-5.5 成为第二个可在无人协助下完成模拟网络攻击的模型后，相关担忧进一步升温；此前，Anthropic 的 Claude Mythos Preview 已出现类似表现。 国际货币基金组织随后也表示，AI 可能因降低利用漏洞所需门槛而放大全球金融体系面临的网络攻击风险，并呼吁政策制定者将网络安全视为金融稳定问题，而不只是技术问题。 美国方面，特朗普今年 6 月签署行政命令，建立先进 AI 模型发布前的自愿审查框架，并要求相关机构评估前沿模型可能带来的国家安全风险。同月，Anthropic 首席执行官 Dario Amodei 也主张，仅靠透明度要求已不足够，前沿模型应接受强制性的第三方测试。