《纽约时报》调查：Meta AI 误删用户账号

据《纽约时报》周一发布的调查报道，Meta 使用自动化系统删除了用户花费多年建立的 Facebook 和 Instagram 账号。当用户试图申诉时，处理他们案件的往往是另一个 AI，而非人工审核员。

报道发现，Meta 恢复了一些被封禁的账号（包括一个拥有近百万粉丝的账号），但仅在《纽约时报》记者代表受影响用户介入之后。在某些情况下，该公司告诉用户，他们的信息将被“不可逆转地删除”，且不再进行复核。

自动化执行模式

Meta 对《纽约时报》表示，报道中涉及的账号是由旧版审核系统封禁的，而非其最新 AI 工具。该公司称新自动化系统的错误率比人工低 13%，违规捕捉率高 10%。

但对于被系统误判的用户来说，这种区分并没有带来多少安慰。企业和创作者反映，账号被删除后并未被告知具体违反了哪条规则，而申诉流程是循环的——重新回到自动化流程，而不是交给能做出判断的人工员工。

这个问题并非新现象，但似乎有所加剧。今年 5 月，全球用户报告 Instagram 和 Facebook 出现一波误封账号的情况。1 月，超过 5 万名用户称 Meta 因“恶劣”行为指控而错误关闭了他们的账号。

这些发现与 Meta 自家监督委员会数周前发出的警告相呼应。该委员会在 6 月表示，Meta 的账号停用流程引发了“系统性的人权问题”以及“缺乏透明度和一致性”。委员会建议 Meta 创建一个面向用户的仪表盘，显示历史违规、具体违反的规则以及清晰的申诉选项——目前这些功能均不存在。

委员会还呼吁 Meta 公开 AI 在内容审核和处罚中扮演的角色，指出用户通常不知道是机器还是人做出了抹除其数字存在的决定。

这一争议出现之际，Meta 已大幅削减了人工团队。该公司在 5 月解雇了 8000 名员工，并将另外 7000 人调往 AI 项目，继续推进这一转型，导致能够审核审核决策的人手更少。对于受影响用户而言，结果是机器做出重要决策，再由其他机器处理投诉——整个流程中没有任何人工介入。