Meta强化青少年AI对话安全机制：高风险内容触发家长提醒与紧急响应

Meta启动AI聊天场景下的青少年安全升级 Meta正将未成年人与Meta AI的对话安全纳入更严格的监护体系。当青少年在与Meta AI的交流中明确提及自杀或自残意图时，系统将启动家长提醒机制。该机制并非简单触发即发通知，而是通过AI识别+人工复核双流程审慎判断，确保响应既及时又审慎。 四国先行落地，年内覆盖全球 目前，该功能已面向启用Instagram家长监管工具的用户上线，首批覆盖美国、英国、澳大利亚和加拿大。Meta明确表示，将在2024年底前完成全球范围的部署。这是对既有家长监管能力的一次实质性延伸——此前平台仅对青少年在Instagram内反复搜索自杀/自残关键词的行为发出提醒；而此次，监管触角首次深入AI对话这一动态交互场景。 识别与审核：AI初筛 + 人工终审 Meta构建了专用AI模型，专用于识别青少年在自然语言对话中出现的明确自我伤害表述。所有被标记的对话记录均不自动推送通知，必须经由训练有素的人工审核员确认表达意图及风险等级后，才决定是否向绑定监护人发送提醒。对于语义模糊但存在潜在风险的表述，平台采取“宁早勿迟”原则，优先向家长发出提示。Meta坦承这可能带来一定误报率，但在当前阶段，扩大保护覆盖面被视为更关键的优先事项。 限制内容模式同步接入Meta AI Instagram原有的“限制内容”设置现已延伸至Meta AI服务。该模式原本用于为青少年账号营造更受控的信息环境，如今也将约束AI的回应边界：在该模式下，Meta AI不仅回避性、恋爱、酒精等敏感话题，还将进一步收紧对其他潜在风险类提问的响应权限。尽管Meta暂未公开新增限制的具体关键词清单或话题分类，但其技术逻辑已清晰指向“主动拒答”而非“被动过滤”。 高风险情形直连紧急响应通道 无论用户年龄，只要与Meta AI的对话展现出即时自杀风险迹象，平台将直接启动紧急服务联络流程。这一机制并非全新策略，而是将原有适用于Facebook、Instagram图文内容的风险响应逻辑，正式迁移并适配至AI实时对话场景。这意味着，AI不再仅是信息提供者，也成为危机识别与响应链条中的关键一环。