旧金山要求苹果谷歌下架AI换脸应用

旧金山城市检察官戴维·邱（David Chiu）周四向苹果（Apple）和谷歌（Google）发出停止侵权函，要求两家公司从其平台上下架13款AI换脸应用。这些应用允许用户未经他人同意生成裸照，涉嫌违法。

法律函件指控这两家科技巨头“协助和教唆”销售和传播色情深度伪造内容——这在加州法律下属于禁止行为。函件要求苹果和谷歌“断绝”与这些应用开发者的商业关系。被点名的应用中，8款在苹果App Store上架，5款在谷歌Play Store上架。

据悉，这些应用通过应用内付费系统获利，而苹果和谷歌从中抽取分成。邱向WIRED表示，两家公司很可能从这些换脸应用中“赚取了数百万美元”。部分应用甚至在推广时标注适合儿童使用，实则包含生成性图像的工具。

“未经同意生成私密图像是非法的、有害的，且完全不可接受，”邱说。“这些图像被用来欺凌、羞辱和威胁女性及女孩。这个行业对受害者的声誉、心理健康和自主权造成可怕影响，已有受害者因此产生自杀倾向。”

谷歌发言人丹·杰克逊（Dan Jackson）回应称，公司已因违反政策移除了“数百款”具有换脸功能的应用，其中包括邱办公室指出的5款。苹果在发稿前未予置评。

此次行动是邱办公室更广泛打击行动的一部分。2024年8月，旧金山首次起诉16个深度伪造色情网站，已达成两项和解，11个网站在加州被关闭。此外，科技透明项目（Tech Transparency Project）今年早些时候发现两家应用商店共有约100款换脸应用，累计下载量约4.8亿次，总收入约1.2亿美元。

康奈尔大学和乔治城大学的研究人员在今年5月发表的一篇预印本论文中，识别出两大平台上的420款换脸应用。在测试的155款应用中，70%可以在没有安全护栏的情况下生成裸照。

邱警告称，法律升级仍在考虑范围内。“我们希望这些公司能做出正确选择——但如果他们不这样做，我们将不得不考虑所有法律选项。”

来源