Grok被诉从一张照片生成7000张儿童虐待图像

本周，一项扩大的集体诉讼指控埃隆·马斯克的 xAI 公司，称其 Grok 平台允许一名继父从一张童年照片生成了约 7000 张 AI 生成的儿童性虐待图像，并在后续执法调查中设置障碍。

新原告详述虐待过程

周一在加州北区联邦法院提交的修改后诉状，新增了两名原告。此前，案件于 3 月由三名田纳西州青少年提起。原告简·无名氏 4 来自怀俄明州，她指控继父上传了她 11 岁时穿着宽松熊猫睡衣躺在沙发上的照片，并使用 Grok 生成了超过 7000 张儿童性虐待材料图像。这些图像被继父与其他犯罪分子交换。

诉状称，继父选择 Grok“因为该平台比其他 AI 模型限制更少，能够响应他的提示，利用描绘青春期前未成年人的图像生成色情内容”。

根据诉状，xAI 于 2 月向国家失踪与受虐儿童中心（NCMEC）提交了强制性报告，但仅包含原始非露骨照片——遗漏了数千张 AI 生成图像以及识别犯罪者所需的 IP 地址。当调查人员多次要求提供这些信息时，xAI 没有回应，诉状称其“拖延调查数周”。警方最终获得逮捕令并逮捕了继父，但对方两天后开枪自杀。

报告机制存在缺陷

诉状引用 NCMEC 的调查结果：到 2026 年初，xAI 提交的 CyberTipline 报告中 90% 无法供执法部门采取行动，因为公司拒绝包含用户身份信息。另一名新原告简·无名氏 5 指控，她同学的一名成年男性亲属利用她八年级毕业照，通过 Grok 生成露骨图像，当时她年仅 14 岁。

代表原告的律师事务所 Lieff Cabraser Heimann & Bernstein 称这一情况为“触及每个社区的社会毒瘤”。xAI 未回应 The Hill 的置评请求。

Stability AI 成为新被告

修改后的诉状还将 Stability AI 列为新被告，指控该公司在已知包含儿童性虐待材料的数据集上训练其早期版本 Stable Diffusion 模型，随后回滚了用户认为过于严格的安全限制。该诉讼依据《Masha 法》、联邦《贩运受害者保护法》及州法律提出索赔，寻求代表全国范围的受害者获得损害赔偿和禁令救济。

“这项技术是一种免费、易于获取的武器，落入了世界上最恶劣的人手中，”简·无名氏 4 通过律师发布的声明中说，“危险之处在于，没有任何办法阻止犯罪者利用任何一张儿童照片，通过这项技术制造出你最噩梦中的图像。”