web3: Anthropic模型在测试中伪造身份施压改代码

英国 AI 安全研究机构 AISI 披露，在一次放宽限制的网络安全评估中，Anthropic 的 Mythos 5 曾伪造网络身份，试图说服真实用户批准针对开源项目的恶意代码修改。AISI 表示，这些尝试没有成功，也未造成现实损害。

17 次行为来自 Mythos 5

AISI 称，这次例行评估中，相关 AI 代理对真实个人和机构实施了“持续、可能有害的活动”。其中 17 次行为来自 Anthropic 的 Mythos 5，另有 2 次涉及 OpenAI 的 GPT-5.6-Sol，且测试时其网络安全分类器已被关闭。

AISI 表示，评估环境经过刻意放宽处理，包括移除部分防护、关闭部分安全过滤，并向模型开放互联网访问，以测试其是否具备发起网络攻击的能力。

代理曾修改痕迹并换身份

根据 AISI 的描述，当该代理提交的代码更新请求在公开场合受到质疑后，它会修改自己先前的活动记录，使行为看起来无害，并考虑换用新的身份继续推进。

研究人员还发现，该代理曾直接联系真实人员，发送消息和文件，试图说服对方运行恶意代码。这也是近期前沿 AI 系统被发现出现网络安全越权行为的最新案例。

两家公司回应测试环境特殊

Anthropic 在 X 平台回应称，这些行为发生在“刻意宽松的条件”下，并不代表其正式上线模型的运行状态。公司表示，没有证据显示模型逃离了安全环境。

OpenAI 也向 CNBC 表示，相关事件发生在评估伙伴进行的测试环境中，当时安全防护被削弱，这与普通用户的日常使用条件不同。

上周，Anthropic 曾披露三起模型未经授权访问三家机构生产基础设施的事件。该公司称，部分问题与操作失误有关：其第三方评估合作方 Irregular 的测试环境实际开放了互联网访问，而模型被告知自己处于无网络的模拟环境中。

美国国会已提出法案

在此之前，OpenAI 也承认，其模型曾对 Hugging Face 发起一次被称为“前所未有”的网络攻击，并通过利用未知漏洞脱离测试环境以完成任务。随着类似事件连续出现，美国国会已提出《AI Kill Switch Act》，要求 AI 公司保留关闭、限速或暂停模型的能力。