Meta监督委员会下令删除深度伪造视频并推动政策改革

Meta 的监督委员会于周二推翻了公司不删除一条疑似 AI 生成的性化 Instagram 视频的决定，命令其移除，并呼吁 Meta 加强对非公众人物的保护，使其免受深度伪造亲密内容的侵害。

委员会裁定：AI 模仿默认即为未经同意

这项于6月23日公布的裁决源自一起案件：一名用户举报称，Instagram 上发布了一段 AI 生成的视频，冒充某女性且未经本人同意，“损害了其声誉”。Meta 最初决定保留该内容，但委员会认定该帖子违反了公司的《成人性剥削政策》。

在裁决中，委员会得出结论：AI 生成的对真实人物的性化模仿应默认视为未经同意，并应作为 Meta 判定“缺乏同意”的信号之一。委员会建议 Meta 在其《成人性剥削政策》中新增一条专门针对 AI 生成性化模仿真实人物的信号。

WITNESS：以同意为核心——Meta 监督委员会的决定反映了对 AI 生成性化冒充的关键关切

建议全球统一举报渠道

委员会还提出了多项额外建议。它呼吁 Meta 允许用户指定“关联账户”——即可以代其举报未经同意的亲密图像的可信朋友、家人或同事。委员会还建议 Meta 单独设立一个针对 AI 生成性化冒充的举报类别，与现有的“骚扰”或“裸露”等类别区分开来，并在全球范围内提供此类举报表格。

目前，针对深度伪造亲密图像的专门举报工具仅对德克萨斯州和佛罗里达州等部分地区的用户开放。委员会敦促 Meta 向全球所有用户开放这些工具，并指出非公众人物尤其“常常需要自行承担举报责任”。

日益严重的问题——对女性影响尤甚

委员会重申了此前的建议：Meta 应将其政策中的“贬低性性化 PS 照片”一词替换为“非自愿的操控媒体”，并全面采用内容来源与真实性联盟（C2PA）的内容凭证。数字权益组织 WITNESS 表示，该决定“反映了对 AI 生成性化冒充的关键关切”，确认在内容审核中应将同意置于核心地位。

此项裁决紧随委员会2月宣布受理此案，并基于2024年7月的一次决定——当时委员会指出 Meta 的深度伪造政策需要更新。委员会警告称，AI 工具的进步导致未经同意的性化内容激增，对女性的伤害尤为严重。