前途科技前途科技
  • 洞察
  • 服务
  • 关于
  • AI 资讯
    • 快讯
    • 产品
    • 技术
    • 商业
    • 政策
    • 初创
  • 洞察
  • 研究资源
    • 案例研究
    • 报告
    • 工具推荐
    • 术语词典
  • 服务
  • 关于
联系我们

AI实验室反击剥削性人工智能

洞察2024年11月15日· 5 分钟阅读0 阅读

AI 时代,艺术家们的“毒药”:对抗算法,守护创作 当艺术家们开始担忧自己的作品被 AI 吞噬,一位名叫 Be […]

AI 时代,艺术家们的“毒药”:对抗算法,守护创作

当艺术家们开始担忧自己的作品被 AI 吞噬,一位名叫 Ben Zhao 的计算机安全研究员站了出来。他并非艺术界人士,却因其在保护图像免受面部识别技术侵害方面的研究,被艺术家们视为“救世主”。

2022 年 11 月,艺术家们在一次 Zoom 会议中向 Zhao 倾诉了他们的困境。AI 生成图像模型的兴起,让他们的创作面临着前所未有的挑战。这些模型可以根据简单的文字提示生成图像,却也无情地“窃取”着艺术家们的风格和创意。一些艺术家发现自己的作品被用于训练 AI 模型,而另一些则发现自己的名字成为了 AI 生成图像的关键词,导致他们的作品被 AI 仿制品淹没。

Zhao 被艺术家们的遭遇震惊了。他意识到,这不仅仅是技术问题,更关乎艺术家的生计和创作自由。于是,他提出了一个大胆的想法:能否开发一种机制,帮助艺术家们保护自己的作品,防止 AI 模型“窃取”他们的风格?

“我希望有一个工具,当有人用我的名字作为提示词时,AI 会生成一堆垃圾,比如香蕉,或者其他奇怪的东西。”知名数字艺术家 Karla Ortiz 说道。她的这句话,让 Zhao 坚定了决心,加入了这场对抗 AI 的战斗。

如今,由 Zhao 和芝加哥大学 SAND 实验室(Security, Algorithms, Networking, and Data)共同开发的 Glaze 和 Nightshade 已经成为艺术家们对抗 AI 侵权的利器。这两个工具的工作原理类似:通过在图像像素中添加“几乎不可察觉”的扰动,使机器学习模型无法正确识别和复制图像。

Glaze 自 2023 年 3 月发布以来,已被下载超过 600 万次。它为图像添加了一层“隐形斗篷”,阻止 AI 算法识别和复制艺术家的风格。Nightshade 则更具攻击性,它在图像中添加了一层“毒药”,可以破坏 AI 模型,使其无法正常生成图像。自发布以来,Nightshade 已被下载超过 160 万次。

“有了这些工具,我终于可以放心地将我的作品发布到网络上了。”Ortiz 说,“这对我们来说意义重大。”对于像 Ortiz 这样的艺术家来说,在网络上展示自己的作品至关重要,因为这关系到他们获得更多工作的机会。如果他们担心自己的作品会被 AI 模型“窃取”而无法获得报酬,他们只能选择将作品从网络上删除,这无疑是职业自杀。Ortiz 已经成为艺术家权益的积极倡导者,并参与了一起针对 AI 公司(包括 Stability AI)的版权侵权集体诉讼。

Zhao 希望这些工具能够赋予艺术家们更多的权力,并最终改变 AI 公司对艺术的利用方式。他认为,这场战斗不仅仅关乎个体艺术家,更关乎人类创造力的未来。他希望 Glaze 和 Nightshade 能够成为艺术家们对抗 AI 侵权的“武器”,帮助他们守护自己的创作,并最终改变 AI 产业的生态。

“看到人类的生命价值被如此轻视,真是令人沮丧。”Zhao 说,“看到这种将利润置于人性之上的行为一次又一次地发生,真是令人愤怒。”

Glaze 和 Nightshade 的出现,引发了 AI 社区的激烈讨论。一些人质疑这些工具的有效性,甚至将其视为“病毒”。但 Zhao 坚信,这些工具是必要的,因为 AI 技术的发展速度太快,而 AI 公司对艺术家们的权益漠不关心。

“这是我们整个科技生涯中第一次遇到如此激烈的冲突。”Zhao 的妻子,也是 SAND 实验室的联合负责人 Heather Zheng 说,“我们必须做点什么,保护艺术家们的权益。”

Zhao 和 Zheng 希望 Glaze 和 Nightshade 能够最终改变 AI 公司对艺术的利用方式。他们认为,如果足够多的艺术家使用 Nightshade 来保护自己的作品,AI 公司最终会意识到,继续“窃取”艺术家的作品将得不偿失。他们可能会被迫与艺术家们谈判,达成公平的授权协议,并为艺术家们提供合理的报酬。

当然,这只是一个美好的愿景。目前,AI 公司对艺术家们的诉求大多置之不理。一些公司已经开始用 AI 系统取代设计师、文案和插画师。例如,漫威影业在 2023 年的电视剧《秘密入侵》中使用了 AI 生成的图像,而不是人类创作的艺术作品。一家广播电台也解雇了人类主持人,用 AI 取代了他们。AI 技术已经成为工会和电影、电视、创意工作室之间争执的焦点,最近还导致了视频游戏表演者的罢工。艺术家、作家、出版商和唱片公司正在对 AI 公司提起多起诉讼。这场法律战可能需要数年时间才能得出明确的结果。但即使法院做出裁决,也无法解决 AI 生成技术带来的复杂伦理问题。未来的政府监管也可能无法解决这些问题。

因此,Zhao 和 Zheng 认为,Glaze 和 Nightshade 是必要的干预措施。它们是保护原创作品、攻击那些“窃取”作品的人的工具,至少可以为艺术家们争取一些时间。他们希望这些工具能够成为艺术家们对抗 AI 侵权的“武器”,帮助他们守护自己的创作,并最终改变 AI 产业的生态。

“我们必须做点什么,保护艺术家们的权益。”Zheng 说,“我们必须为他们提供希望。”

SAND 实验室正在积极寻求来自基金会和非营利组织的资金,以继续开发和推广 Glaze 和 Nightshade。他们也收到了来自一些大型公司的合作意向,这些公司希望保护自己的知识产权。Zhao 和 Zheng 正在探索如何将这些工具应用到其他行业,例如游戏、视频或音乐。他们计划不断更新 Glaze 和 Nightshade,使其更加强大,并与芝加哥实验室的学生紧密合作。在实验室的另一面墙上,挂着 Toorenent 的《颠茄》画作。画作的右下角贴着一张心形便签,上面写着:“谢谢你们!你们给了我们艺术家希望。”

本文已更新 Glaze 和 Nightshade 的最新下载数据。




2024-11-15





admin

group of students and teachers posing in Halloween costumes当我去芝加哥的 SAND 实验室参观时,我看到了这个团队的紧密团结。除了典型的办公室用品外,还有像这样有趣的万圣节照片。(前排:Ronik Bhaskar、Josephine Passananti、Anna YJ Ha、Zhuolin Yang、Ben Zhao、Heather Zheng。后排:Cathy Yuanchen Li、Wenxin Ding、Stanley Wu 和 Shawn Shan。)

SAND 实验室提供
Belladonna artwork shows a central character with a skull head in a dark forest illuminated around them by the belladonna flower slung over their shoulderToorenent 的《颠茄》在线图像经过了 SAND 实验室的 Nightshade 工具处理。

EVA TOORENENT

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

//

24小时热榜

2026年农历新年迎日环食,火马年开启天文奇观
TOP1

2026年农历新年迎日环食,火马年开启天文奇观

Waymo与特斯拉出席参议院听证会,自动驾驶安全成焦点
TOP2

Waymo与特斯拉出席参议院听证会,自动驾驶安全成焦点

3

2026年初美国17家AI初创融资超1亿美元,Anthropic、xAI领跑

14小时前
4

OpenAI 从 Anthropic 挖角安全专家,年薪超 55 万美元

4小时前
OpenAI 从 Anthropic 挖角安全专家,年薪超 55 万美元
5

万斯警告:企业或利用AI监控美国人

14小时前
万斯警告:企业或利用AI监控美国人
6

面试官允许你用AI,不是放水,是抬高了门槛

13小时前
7

谷歌 I/O 2026 定档 5 月,AI 成核心焦点

14小时前
谷歌 I/O 2026 定档 5 月,AI 成核心焦点
8

AI无法重塑办公室,因为它缺了百年前的两个关键

13小时前
AI无法重塑办公室,因为它缺了百年前的两个关键
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断

前途科技前途科技
服务关于快讯技术商业报告
前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号