Reddit用大模型拦截AI垃圾内容

摘要

币界网报道：随着大模型工具快速普及，批量制造垃圾内容和机器人互动的成本持续下降。Reddit表示，平台已把大模型用于识别更隐蔽的异常发帖和协同行为，以压缩用户接触垃圾信息的机会...

币界网报道：随着大模型工具快速普及，批量制造垃圾内容和机器人互动的成本持续下降。Reddit表示，平台已把大模型用于识别更隐蔽的异常发帖和协同行为，以压缩用户接触垃圾信息的机会。平台披露拦截数据 Reddit在博客文章中称，平台目前每天会拦截约 2300 万次垃圾内容浏览，并发现约 2.5 万条新的垃圾帖子和评论。这些工具主要用于识别旧系统较难发现的虚假互动和人为炒作模式。公司表示，与此前三个月相比，今年 1 月至 3 月期间，用户接触垃圾内容的情况下降了 20%。这表明大模型已被用于内容审核和异常行为识别等治理场景。 AI内容加重平台负担垃圾信息并不是新问题，但生成式 AI 降低了内容生产门槛，也提升了伪装能力。对社交平台来说，传统规则系统更难覆盖这类分散、重复且带有协同特征的内容。 Reddit的做法反映出一个更直接的变化：AI 一方面放大了内容治理压力，另一方面也成为平台处理这类问题的工具。平台正用同类技术对抗由同类技术推动的内容污染。自动审核仍需人工配合 TechCrunch提到，YouTube、Meta 和 Instagram 允许用户发布 AI 生成内容，但通常要求进行标注；TikTok 还提供选项，让用户调整自己希望看到多少 AI 生成内容。报道同时指出，更快识别 AI 生成内容，意味着平台也可能更快标记仇恨言论等违规信息。不过，平台治理研究者长期认为，自动化审核仍需与人工审核结合，才能提高准确性和执行效果。