OpenAI发布儿童安全蓝图，以应对人工智能引发的剥削问题

为了应对人工智能驱动的儿童性剥削日益猖獗的问题，OpenAI于周三发布了一项声明。 已发布 一份政策蓝图，概述了该行业可以采取的新安全措施，以帮助遏制人工智能在制作儿童性虐待材料中的应用。

OpenAI 在该框架中列出了旨在加强对人工智能滥用行为的保护以及改善科技公司与调查人员之间协调的法律、运营和技术措施。

该公司写道：“儿童性剥削是数字时代最紧迫的挑战之一。人工智能正在迅速改变这些危害在整个行业中出现的方式，以及大规模应对这些危害的方式。”

OpenAI 表示，该提案融入了来自儿童保护和网络安全领域组织的反馈意见，包括美国国家失踪和受虐儿童中心、司法部长联盟及其人工智能工作组。

“生成式人工智能正在以令人深感不安的方式加速网络儿童性剥削犯罪——降低门槛、扩大规模，并催生新的伤害形式，”美国国家失踪与受虐儿童中心总裁兼首席执行官米歇尔·德劳恩在一份声明中表示。“但与此同时，美国国家失踪与受虐儿童中心也欣慰地看到像OpenAI这样的公司正在反思如何以更负责任的方式设计这些工具，并从一开始就内置安全保障措施。”

OpenAI表示，该框架结合了法律标准、行业报告系统以及人工智能模型中的技术保障措施。该公司称，这些措施旨在帮助及早识别漏洞利用风险，并提高在线平台的问责制。

该蓝图确定了需要采取行动的领域，包括更新法律以应对人工智能生成或篡改的儿童性虐待材料，改进在线服务提供商报告虐待信号和与调查人员协调的方式，以及在旨在防止滥用的人工智能系统中建立保障措施。

该公司写道：“任何单一干预措施都无法单独应对这一挑战。该框架整合了法律、运营和技术方法，旨在更好地识别风险、加快应对速度并支持问责制，同时确保执法机构在技术发展过程中保持强大力量。”

这份蓝图的出台正值儿童安全倡导者们对能够……的生成式人工智能系统表示担忧之际。 生产 逼真的图像可能被用来制作未成年人的篡改或合成画像。2月，联合国儿童基金会 称为 呼吁世界各国政府通过法律，将人工智能生成的儿童虐待材料定为犯罪行为。

1月份，欧盟委员会 发射 英国监管机构和欧盟监管机构正在对X（前身为Twitter）是否违反欧盟数字规则展开正式调查，原因是X未能阻止其平台原生人工智能模型Grok生成非法内容。 澳大利亚 也已展开调查。

OpenAI 指出，仅靠法律无法阻止人工智能生成的滥用材料的祸害，随着人工智能系统能力的增强，更严格的行业标准势在必行。

OpenAI 表示：“通过更早地阻止剥削企图、提高发送给执法部门的信号质量以及加强整个生态系统的问责制，该框架旨在防止伤害发生，并在风险出现时帮助确保更快地保护儿童。”