旧金山市政府正式致函苹果与谷歌：要求全面下架AI脱衣类应用

摘要

旧金山市政府发起法律行动旧金山市检察官David Chiu已正式致函苹果与谷歌，要求两家科技巨头在28天内回应，并立即从其应用商店中移除数十款涉嫌违法的“AI脱衣”类应用。此类应用通过人工智能技术处理普通照片，生成...

旧金山市政府发起法律行动旧金山市检察官David Chiu已正式致函苹果与谷歌，要求两家科技巨头在28天内回应，并立即从其应用商店中移除数十款涉嫌违法的“AI脱衣”类应用。此类应用通过人工智能技术处理普通照片，生成未经当事人知情与同意的私密深度伪造图像，严重侵害个人人格权与身体自主权。加州法律已有明确禁止依据加州现行法律已将“明知或在重大疏忽下协助制作、传播未经同意的深伪色情内容”定为违法行为。2025年生效的新法进一步强化追责机制，允许受害者直接对提供技术、分发渠道或支付支持的第三方主体提起民事诉讼。这意味着应用商店平台若持续上架、推广并从中分成，将不再享有责任豁免。平台被指长期知情且持续获利据市检察官办公室披露，其此前已多次向苹果与谷歌发出正式警告。相关函件指出，两家公司至少在过去一年中，清楚知晓其支付系统正被用于结算此类非法服务交易，却未采取实质性阻断措施。部分应用甚至通过平台内置广告、搜索推荐及付费订阅体系获得显著曝光与收入分成。监管焦点转向平台主动治理义务 Chiu强调，仅被动响应投诉、下架个别应用远远不够。平台必须履行事前审核、关键词过滤、开发者资质核验及交易行为监测等主动治理责任。尤其当同类应用反复上架、改名重推时，更暴露现有审核机制存在系统性漏洞。风险已从名人蔓延至普通公众过去深伪色情内容多以公众人物为目标，但当前AI脱衣工具门槛极低，只需一张公开网络照片即可生成虚假裸照。这意味着每位在社交媒体发布过生活照的女性、青少年乃至儿童，都可能成为潜在受害者。技术滥用正从灰色地带滑向明确违法，而平台作为关键守门人，其责任边界正在司法与行政层面被重新界定。