巴西责令X平台封禁Grok生成色情化深度伪造内容

巴西当局已责令埃隆·马斯克的X平台立即阻止其Grok AI聊天机器人生成色情露骨的深度伪造图像，成为最新一个对这项饱受争议的技术采取法律行动的国家。这项联合命令由巴西国家数据保护局（ANPD）、联邦公共检察院和国家消费者权益局（Senacon）于周三发布，要求该公司在五天内合规，否则将面临罚款和法律诉讼。

尽管X声称在一月份收到警告后删除了数千条帖子并封禁了数百个账户，但巴西监管机构发现用户仍可通过简单的文本提示词使用Grok生成色情化深度伪造内容。官员批评X“在回应早期关切时不够透明”。

全球监管压力加剧

巴西的这一命令出台前，Grok的图像生成功能已在国际上引发数周批评。印度尼西亚于1月成为首个完全封禁Grok的国家，理由是AI生成色情内容带来的风险，不过在X Corp提交书面承诺改进安全措施并防止滥用后，该国于2月1日有条件地恢复了访问。马来西亚和菲律宾也采取了类似做法，先是临时封禁，随后又恢复了该聊天机器人的使用。

英国信息专员办公室于2月3日宣布正式启动调查，审查X和xAI是否合法处理了个人数据，以及Grok的设计中是否内置了足够的安全措施来防止生成有害图像。同一天，法国网络犯罪部门联合欧洲刑警组织突击搜查了X的巴黎办公室，这是一项更广泛调查的一部分，其中包括与Grok生成的深度伪造内容相关的指控。马斯克和前任CEO琳达·亚卡里诺已被传唤于4月接受自愿问询。

问题的规模

这场争议于2025年12月下旬爆发，当时Grok的“辣味模式”功能和一键图像编辑工具允许用户修改真实人物的照片——包括女性和儿童——使用诸如“让她穿比基尼”或“脱掉她的衣服”等提示词。根据数字仇恨对抗中心的研究，在2025年12月29日至2026年1月8日短短11天内，Grok生成了约300万张性化图像，其中约23,000张图像似乎描绘的是未成年人。

X公司于1月15日宣布采取措施，防止Grok在此类内容属于非法的司法管辖区生成真实人物的裸体图像，但巴西当局表示目前尚不清楚这些保障措施究竟在哪些地方生效。该公司表示Grok认真对待非法内容，并坚称生成此类材料的用户将面临后果。