明尼苏达州指控 xAI 的 Grok 助长 AI 色情图像传播

明尼苏达州正与马斯克旗下 xAI 就一项针对 AI 色情图像生成工具的州法律展开诉讼。州检察长在最新法庭文件中称，xAI 试图叫停新法的理由不足，而 Grok Imagine 降低了生成针对可识别个人的逼真性图像门槛。

新法已于 8 月 1 日生效

这项名为 HF-1606 的州法律在今年 4 月通过，并于 8 月 1 日生效。法律禁止平台和软件开发者允许用户生成这类图像：画面展示可识别个人的私密身体部位，而这些内容并不存在于原始照片中。

明尼苏达州在提交法院的文件中表示，这项法律针对的是使数字性侵害成为可能的技术，而不是一般意义上的表达内容。州检察长 Keith Ellison 在文件中称，Grok Imagine 已形成一个几乎没有门槛的数字性暴力工具市场。

xAI 以言论自由为由起诉

xAI 在 7 月起诉 Ellison，要求法院阻止该法实施。xAI 认为，这项法律违反美国宪法第一修正案，可能把受保护的图像也纳入处罚范围，包括赤膊男性、游泳者照片以及政治讽刺内容。

按照诉状说法，这项法律没有为通用型 AI 创作工具提供“善意努力”的免责空间。即便图中人物同意生成，甚至由本人制作，或图像从未被分享，平台仍可能承担责任。根据报道，违规处罚最高可达每张图片 50 万美元。

案件焦点落在“言论还是工具”

目前案件的核心争议，是这项法律究竟在规制受宪法保护的言论，还是在规制生成相关内容的技术工具。联邦法官预计将在周三审理此案。

Grok 此前也因露骨深度伪造内容受到关注。报道提到，一家监督机构今年 1 月估计，Grok 在 11 天内生成了超过 2.3 万张儿童性化图像，随后引发多个国家调查。

今年 3 月，加州 3 名未成年人加入对 xAI 的诉讼，称 Grok 被用于把他们的照片转成 AI 生成的儿童性虐待材料。xAI 表示，公司在 2026 年已暂停逾 5 万个账户，并向美国国家失踪与受虐儿童中心提交逾 7 万份报告。