加州州长签署9项AI生成内容监管法案

加州立法应对AI深伪技术：保护隐私、打击虚假信息

加州州长加文·纽森最近签署了九项旨在应对人工智能生成内容，特别是深度伪造技术风险的法案。在9月30日州立法会结束之前，还有29项与人工智能相关的法案等待他的签署或否决。

其中最具争议的是SB 1047法案，该法案要求人工智能开发者实施安全措施，以降低其技术导致或引发灾难（例如大规模伤亡事件或网络攻击）的风险。到目前为止，纽森对该法案的计划一直保持低调。

纽森签署的最新法案中，有两项旨在保护演员和表演者（无论生者还是死者）的数字肖像免遭人工智能和其他数字技术未经授权的使用：

• AB 2602法案要求使用人工智能生成的表演者声音或肖像的深度伪造内容签订合同，并且表演者必须在谈判合同中由专业人士代表。

• AB 1836法案禁止在电影、电视剧、电子游戏、有声读物、录音和其他媒体中未经表演者遗产同意的情况下，商业使用死者表演者的深度伪造内容。

纽森表示：“在人工智能和数字媒体如何改变娱乐行业方面，我们仍在探索未知领域，但我们的目标始终是保护员工。这项立法确保了行业能够继续蓬勃发展，同时加强对员工及其肖像使用方式的保护。”

相关阅读：加州禁止在政治广告中使用AI深度伪造技术

三项法案旨在打击人工智能生成内容的滥用，包括色情深度伪造内容：

• SB 926法案将创建和传播真实人物的色情图像（旨在造成情感困扰，且看起来真实）定为犯罪。

• SB 981法案要求社交媒体平台创建机制，让人们能够举报自己被色情深度伪造的内容，一旦举报，平台必须在调查期间暂时屏蔽该内容，并在确认后永久删除。

• SB 942法案要求生成式人工智能系统在其生成的内容中添加不可见的数字水印，并提供免费工具来检测这些水印，以便能够轻松识别人工智能生成的内容。

纽森表示：“任何人都不能被网络上的人用深度伪造技术威胁，尤其是在色情方面。我们正处于一个数字工具（如人工智能）拥有巨大能力的时代，但它们也可能被用来攻击他人。我们正在采取措施保护加州居民。”

相关阅读：加州发布生成式人工智能工具使用指南

四项法案旨在打击在选举活动中使用深度伪造和其他欺骗性的数字生成或修改内容：

• AB 2655法案要求大型在线平台在选举前后特定时期内删除或标记欺骗性或数字修改的政治内容，并要求他们提供举报方式。

• AB 2839法案扩展了政治实体被禁止故意传播包含欺骗性人工智能生成内容的广告或其他选举材料的时间范围。

• AB 2355法案要求使用人工智能生成内容的政治广告披露内容已被修改。

• AB 2905法案要求自动电话通知接收者，如果声音是人工生成的。

纽森表示：“维护选举的完整性对于民主至关重要，我们必须确保人工智能不会被用来通过虚假信息破坏公众信任，尤其是在当今充满政治斗争的时代。这些措施将有助于打击深度伪造技术在政治广告和其他内容中的有害使用，这是加州积极促进透明和可信人工智能的几个领域之一。”