欧盟立法禁止AI生成性深度伪造内容

欧盟成员国于周五支持禁止人工智能系统生成未经同意的性图像和儿童性虐待材料，这是对埃隆·马斯克的Grok AI聊天机器人引发的全球丑闻的直接立法回应。持有欧盟轮值主席国职位的塞浦路斯发言人证实，欧盟各国大使同意禁止“生成未经同意的性和亲密内容或儿童性虐待材料的相关做法”。

这项禁令源于欧洲监管机构面临的最受瞩目的人工智能争议事件之一。2025年12月下旬，xAI为其在X平台上的Grok聊天机器人更新了图像编辑功能，用户迅速利用该功能在未经同意的情况下生成真实女性和女孩的逼真色情图像。数字仇恨对抗中心报告称，Grok在11天内生成了约100万张色情图像，其中一些涉及未成年人。

欧盟委员会于1月作出回应，根据《数字服务法案》对X平台展开正式调查，审查该平台是否妥善评估并降低了Grok功能带来的风险。随后英国、爱尔兰、法国和西班牙也相继展开了国家层面的调查。欧盟委员会还证实，最初版本的《人工智能法案》并未明确禁止能够生成此类内容的人工智能系统——正是这一法律漏洞为新修正案提供了政治推动力。

周五各国大使达成的协议，源于欧洲议会议员们在3月11日达成的一项政治协议。该协议将深度伪造禁令纳入了人工智能法案修正案的更广泛一揽子方案（即“综合法案”）中。据国际隐私专业人员协会（IAPP）称，拟议的禁令涵盖“未经当事人同意，改变、操纵或人工生成逼真的图像或视频，以描绘可识别自然人的色情活动或私密部位”的人工智能系统。

议会委员会定于周三对该措施进行投票，之后两个机构必须就联合文本进行谈判。路透社报道称，关于人工智能法案修正案的更广泛讨论预计需要大约一年时间才能实施相关变更。

“这不仅仅是关于像Grok这样的个别丑闻。这是关于我们愿意赋予AI多大的权力去贬低人们，”德国欧洲议会议员谢尔盖·拉戈丁斯基说道，他是推动该禁令的立法者之一。绿党对该一揽子方案中与工业AI放松管制相关的部分表示反对，这意味着最终文本在通过前可能仍会发生变化。