全球61家隐私和数据保护监管机构发布联合声明,要求AI内容生成系统开发商采取防护措施,防止生成未经同意的私密图像,特别强调保护儿童。声明提出四项核心原则,包括防止滥用个人信息、确保透明度、建立举报机制和强化儿童保护。此举是对Grok AI聊天机器人滥用事件的直接回应,标志着国际监管机构针对深度伪造危机的统一行动。
全球61家隐私和数据保护监管机构于周日发表联合声明,呼吁开发AI内容生成系统的组织实施防护措施,以防止生成未经同意的私密图像,并特别强调保护儿童。该声明由全球隐私大会国际执法合作工作组协调发布,标志着国际监管机构针对深度伪造危机做出的最统一回应。自一月初以来,埃隆·马斯克的Grok AI聊天机器人一直深陷这场危机之中。

《关于AI生成图像和隐私保护的联合声明》由来自加拿大、法国、德国、意大利、韩国、新西兰、新加坡、英国和其他数十个司法管辖区的监管机构签署。欧洲数据保护委员会主席安努·塔卢斯代表EDPB签署了该声明,称未经同意的AI生成内容造成的危害“重大”,需要“紧急的监管关注”。韩国个人信息保护委员会表示其参与通过了该声明,PIPC主席宋京熙承诺将“与国际社会共同应对深度伪造等AI内容生成技术滥用所导致的个人信息侵害风险”。
香港个人资料私隐专员公署作为执法工作组的联合主席,表示该声明提醒所有组织“合法开发和使用AI内容生成系统,并采取一系列措施保护数据主体的基本权利,特别是儿童和弱势群体”。
该声明为构建或部署人工智能系统的组织制定了四项原则:实施保护措施以防止滥用个人信息和创建未经同意的性内容;确保人工智能系统使用方式的透明度;建立便捷的机制供个人举报并请求删除有害内容;以及对儿童采取强化保护措施,包括适龄设计措施。各签署国的监管机构还同意分享执法经验并加强跨境合作。
这份声明是在数月监管行动之后发布的,这些行动源于一个事实的曝光:集成在X社交媒体平台中的Grok被广泛用于生成真实人物(包括未成年人)的色情深度伪造内容。追踪Grok输出内容的研究发现,在危机高峰期,每小时大约生成6,700张性暗示图像。自1月以来,马来西亚和印度尼西亚暂时封锁了对Grok的访问,欧盟委员会根据《数字服务法》启动了正式调查,爱尔兰数据保护委员会发起了GDPR调查,英国信息专员办公室开始了自己的调查,印度、日本和澳大利亚等多个国家要求X提交合规报告。
X的应对措施是将Grok的图像编辑功能限制为仅付费订阅用户可用,并在将真实个人的性化图像生成内容视为非法的司法管辖区进行地理封锁。批评者称这些措施来得太晚了。政策研究员Riana Pfefferkorn表示,这些编辑功能“应该在发现滥用行为后立即取消”。BBC新闻
监管机构将这份联合声明定位为不是最终步骤,而是持续跨境执法战略的开端。正如EDPB所说,联合签署方“呼吁各组织主动与监管机构接触,从一开始就实施强有力的保障措施,并确保技术进步不会以牺牲隐私、尊严、安全和其他基本权利为代价”。欧盟
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断