OpenAI强化AI安全防护严防模型“失控”，最新模型训练暂停两周
摘要
PANews 8月19日消息，据金融界报道，在近期发生的网络安全事件引发外界对AI工具可能失控的担忧后，OpenAI表示，将采用更为严格的系统，对正在开发的人工智能模型进行监控和安全防护。OpenAI表示，计划进一步追踪其能...
PANews 8月19日消息，据金融界报道，在近期发生的网络安全事件引发外界对AI工具可能失控的担忧后，OpenAI表示，将采用更为严格的系统，对正在开发的人工智能模型进行监控和安全防护。OpenAI表示，计划进一步追踪其能力最强、尚未发布的模型在解决问题以及使用各种在线工具时的行为，目标是在发现令人担忧的行为后30分钟内向安全团队发出警报。OpenAI表示，公司还新增了控制措施，以防止某些AI模型连接互联网来执行风险更高的任务。此外，OpenAI将要求在训练和评估AI模型时实施更严格的隔离措施，即所谓的“沙箱”。OpenAI公告提到，在Hugging Face事件发生后，立即暂停了研究集群中可能执行代码的前沿模型推理任务。暂时放缓扩展速度，包括将对最新部署模型的强化学习训练暂停两周。规模最大的前沿强化学习训练计划仍处于暂停状态，以待安全验证完成。
评论 (5)
这措施挺必要，AI失控可麻烦，暂停训练检查检查也好。
这是被网络安全事件吓到了，希望能真防住失控。
暂停两周能解决问题吗，感觉还得持续监控。
暂停训练影响开发进度，但安全更重要。
加防护措施是好事，就怕后面还出状况。