web3: OpenAI误撤部分安全研究员项目权限
摘要
多名网络安全研究人员表示,OpenAI 近日突然撤销了他们对一项受限项目的访问权限。该项目允许经过审核的研究人员在较少限制下使用更强的 AI 模型,用于漏洞发现、恶意软件分析和事件响应。OpenAI 随后确认,这一情况...
多名网络安全研究人员表示,OpenAI 近日突然撤销了他们对一项受限项目的访问权限。该项目允许经过审核的研究人员在较少限制下使用更强的 AI 模型,用于漏洞发现、恶意软件分析和事件响应。OpenAI 随后确认,这一情况由技术错误引发。
受影响的是 Daybreak Blue
研究人员在 OpenAI 官方支持论坛和 X 上称,打开 ChatGPT 的 Cyber 页面后,系统提示其身份无法验证,或账号“当前不符合资格”。TechCrunch 采访的 5 名研究人员都表示遇到了同样问题。
其中一名研究人员称,OpenAI 在邮件中表示,其对 Daybreak Blue 的访问资格已被撤销,原因是“影响少量用户的技术问题”。另一名研究人员在论坛发帖称,客服也提到了“近期技术问题”,导致部分用户失去该层级访问权限。
项目面向经审核的防御研究
TAC 全称为 Trusted Access for Cyber,是 OpenAI 面向网络安全研究人员推出的受限访问项目。研究人员需提交身份证明并通过审核,才能获得比普通用户更少安全限制的模型访问权限。
OpenAI 8 月 10 日推出了 Daybreak Blue,作为面向个人研究人员的最新层级。根据公司介绍,这一层级可访问前沿通用模型,包括 GPT-5.6 Sol,并配有适用于授权防御性安全工作的定制保护措施。
- 支持漏洞发现
- 支持安全代码审查
- 支持恶意软件分析与事件响应
同一时间,OpenAI 还推出更高一级的 Daybreak Red,面向更深入的网络安全研究,可用于授权漏洞研究、利用验证和安全测试。
受影响用户或集中在欧美以外地区
目前尚不清楚此次权限撤销的具体原因,也不清楚受影响人数。TechCrunch 提到,接受采访的研究人员均居住在美国和欧洲以外地区,这意味着问题可能与特定地区有关。
OpenAI 对外回应称,部分 Daybreak Blue 用户的访问权限已不再有效,这些用户需要重新完成验证流程,才能继续保留访问资格。
近几个月来,防御性和进攻性安全研究人员都曾批评 OpenAI 和 Anthropic 对模型设置的安全限制过严,认为这会妨碍合法研究工作。Anthropic 也设有类似项目,名为 Cyber Verification Program。
评论 (5)
这技术错误闹得真让人无语,耽误研究进度。希望赶紧解决,别影响安全研究。
之前就说安全限制过严,这又出权限问题,真影响合法研究工作。
这一搞让研究人员没法好好做研究,OpenAI得重视起来,尽快处理。
可能是地区差异导致的问题,重新验证流程也麻烦,希望快点恢复正常。
看来这OpenAI的系统稳定性不咋地,技术错误就撤销权限,太折腾人。