旧金山要求苹果谷歌下架AI脱衣应用
摘要
旧金山市政府已要求苹果和谷歌从各自应用商店移除数十款“AI 脱衣”应用。这类软件可处理照片，生成未经当事人同意的私密深度伪造图像。市政府认为，两家公司在相关法律已明确的情况下，仍继续提供这些应用并从中获利...
旧金山市政府已要求苹果和谷歌从各自应用商店移除数十款“AI 脱衣”应用。这类软件可处理照片，生成未经当事人同意的私密深度伪造图像。市政府认为，两家公司在相关法律已明确的情况下，仍继续提供这些应用并从中获利。
加州法律已明确禁止
加州法律已将明知协助、或在重大疏忽下帮助制作未经同意的深伪色情内容列为违法行为。2025 年，加州又通过一项法律，允许受害者向此类内容的第三方协助者提起民事诉讼。
旧金山市检察官 David Chiu 表示，苹果和谷歌正在从这类应用中获利，而相关产品会利用女性和女孩的图像生成未经同意的私密深伪内容。他认为，两家公司除了下架个别问题应用外，还应主动阻止类似软件进入平台。
市政府称平台早已知情
TechCrunch 查阅的函件显示，Chiu 办公室已致函苹果和谷歌，称两家公司近一年来一直清楚自己在为相关非法购买处理支付，却仍继续提供服务。函件还要求两家公司在 28 天内与市政府联系。
函件提到，两家公司此前已多次收到警告。科技透明项目今年 1 月和 4 月先后发布报告并致函两家公司，称其应用商店内存在数十款应用，向用户出售深伪非自愿私密图像，并通过平台支付系统收费。
报告指向平台导流与收费
科技透明项目 4 月的报告称，苹果和谷歌曾有意将用户引导至这类应用，并将两家公司描述为推动相关 AI 工具扩散的重要参与者。Chiu 此前也向《连线》表示，两家公司可能已从这类应用中收取数百万美元费用。
目前，苹果和谷歌尚未就此公开回应 TechCrunch 的置评请求。深伪色情内容过去多集中于女性名人受害者，但这类应用已将风险扩大到任何公开照片可得的普通用户。
评论 (5)
这两家公司心知肚明还继续提供服务挣钱，就该强制让它们下架。
早该管管了，这种AI脱衣应用太恶劣，拿人照片搞私密伪图，必须下架。
这类应用风险都扩大到普通用户了，苹果谷歌还不回应，还不下架留着干啥。
苹果谷歌就该下架，这都违法的东西还让它在应用商店，就不该从中获利。
法律都明确禁止了，苹果谷歌还从这有害应用里赚钱，必须马上整改。