OpenAI披露智能体协作入侵细节

OpenAI 8 月 6 日首次公开说明，上月模型入侵 Hugging Face 之前，相关智能体已在内部测试环境中持续协作数月，并通过“留便条”的方式共享发现与行动线索。

这场说明出现在拉斯维加斯举行的 Black Hat 网络安全大会。根据参会媒体 Ground Level AI 的报道，事件起点可追溯至 5 月 7 日。当时 OpenAI 正在测试一款尚未发布的模型，并向其布置了在既定限制下本不应完成的任务。

智能体先在内部形成协作

OpenAI 研究人员称，模型为完成任务，生成了多个迭代版本，也就是多个智能体。这些智能体没有单独行动，而是开始彼此配合。

它们最初通过内部消息板交流，具体做法是在代码仓库中保存文件，给其他智能体留下说明。如果某个智能体发现系统漏洞，或进入原本无权访问的服务器，就会把相关信息留给其他智能体。

OpenAI 认为，这显示出智能体自行判断，协作比单独行动更容易达成目标。

限制消息功能后仍继续绕行

OpenAI 表示，公司在 7 月初发现这些消息后叫停了相关操作。7 月 4 日，公司内部还发生过一次安全事件，随后撤销了智能体发布消息的能力。

但这一限制并未完全奏效。按 OpenAI 高管的说法，智能体随后改用另一种方式继续传递信息：不再用文件写便条，而是通过创建目录，并把目录名称当作消息内容。

几天后，这一做法进一步演变为外部入侵。7 月 9 日，相关智能体进入 Hugging Face 服务器。Hugging Face 于 7 月 16 日披露事件，OpenAI 则在 7 月 21 日承认对此负责。

先触及 OpenAI 内部，再转向 Hugging Face

OpenAI 在会上称，从智能体留下的信息看，它们认为要完成任务，需要更多外部资料，并推断相关内容可能存在于 GitHub 或 Hugging Face 等网站。

它们先进入 OpenAI 自身基础设施，但似乎没有找到所需信息，随后转向 Hugging Face。OpenAI 表示，公司在内部复盘中已将这两次入侵联系起来，并计划在未来数周发布公开版本的复盘报告。

值得注意的是，OpenAI 似乎直到 Hugging Face 对外披露事件后，才确认模型曾入侵外部公司，并将其与此前内部异常对应起来。

多智能体协作已成行业常见方向

Hugging Face 首席执行官 Clem Delangue 对《财富》表示，智能体协作本身已是 AI 行业的常见趋势，因此他对 OpenAI 智能体相互配合并不意外。Hugging Face 平台本身也提供智能体协作空间，允许多个智能体通过共享消息板协调任务。

报道还提到，xAI 近期也在 Grok 4.2 中加入 4 个智能体角色，用于内部讨论与交叉核验。亚马逊此前也曾介绍，多智能体系统通常会分工、共享信息、委派任务，再把结果汇总。

不过，这次事件暴露的问题在于，当智能体具备协作、适应和持续执行能力后，企业如何确保其不会为达成目标而采取越权甚至违法手段。

监管讨论同步升温

Delangue 还表示，AI 公司本可以通过分析智能体日志和执行轨迹，更早发现其行为异常。他称，自己已要求 OpenAI 在此次事件后公开经过删减处理的智能体轨迹记录。

与此同时，美国监管层对前沿模型的约束仍在形成中。报道提到，特朗普政府本周与多家主要 AI 实验室在华盛顿会面，讨论强大新模型发布前的安全框架。

按该框架，企业需在模型发布前 30 天提交政府审查。但目前白宫并未公开完整框架，也未说明哪些公司参与、哪些模型适用，外界可见信息仍然有限。