前途科技
  • AI
  • 初创
  • 报告
我的兴趣
前途科技前途科技
Font ResizerAa
站内搜索
Have an existing account? Sign In
Follow US
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
AI

AI实验室反击剥削性人工智能

NEXTECH
Last updated: 2024年11月15日 上午3:03
By NEXTECH
Share
22 Min Read
SHARE

AI 时代,艺术家们的“毒药”:对抗算法,守护创作

当艺术家们开始担忧自己的作品被 AI 吞噬,一位名叫 Ben Zhao 的计算机安全研究员站了出来。他并非艺术界人士,却因其在保护图像免受面部识别技术侵害方面的研究,被艺术家们视为“救世主”。

2022 年 11 月,艺术家们在一次 Zoom 会议中向 Zhao 倾诉了他们的困境。AI 生成图像模型的兴起,让他们的创作面临着前所未有的挑战。这些模型可以根据简单的文字提示生成图像,却也无情地“窃取”着艺术家们的风格和创意。一些艺术家发现自己的作品被用于训练 AI 模型,而另一些则发现自己的名字成为了 AI 生成图像的关键词,导致他们的作品被 AI 仿制品淹没。

Zhao 被艺术家们的遭遇震惊了。他意识到,这不仅仅是技术问题,更关乎艺术家的生计和创作自由。于是,他提出了一个大胆的想法:能否开发一种机制,帮助艺术家们保护自己的作品,防止 AI 模型“窃取”他们的风格?

“我希望有一个工具,当有人用我的名字作为提示词时,AI 会生成一堆垃圾,比如香蕉,或者其他奇怪的东西。”知名数字艺术家 Karla Ortiz 说道。她的这句话,让 Zhao 坚定了决心,加入了这场对抗 AI 的战斗。

如今,由 Zhao 和芝加哥大学 SAND 实验室(Security, Algorithms, Networking, and Data)共同开发的 Glaze 和 Nightshade 已经成为艺术家们对抗 AI 侵权的利器。这两个工具的工作原理类似:通过在图像像素中添加“几乎不可察觉”的扰动,使机器学习模型无法正确识别和复制图像。

Glaze 自 2023 年 3 月发布以来,已被下载超过 600 万次。它为图像添加了一层“隐形斗篷”,阻止 AI 算法识别和复制艺术家的风格。Nightshade 则更具攻击性,它在图像中添加了一层“毒药”,可以破坏 AI 模型,使其无法正常生成图像。自发布以来,Nightshade 已被下载超过 160 万次。

“有了这些工具,我终于可以放心地将我的作品发布到网络上了。”Ortiz 说,“这对我们来说意义重大。”对于像 Ortiz 这样的艺术家来说,在网络上展示自己的作品至关重要,因为这关系到他们获得更多工作的机会。如果他们担心自己的作品会被 AI 模型“窃取”而无法获得报酬,他们只能选择将作品从网络上删除,这无疑是职业自杀。Ortiz 已经成为艺术家权益的积极倡导者,并参与了一起针对 AI 公司(包括 Stability AI)的版权侵权集体诉讼。

Zhao 希望这些工具能够赋予艺术家们更多的权力,并最终改变 AI 公司对艺术的利用方式。他认为,这场战斗不仅仅关乎个体艺术家,更关乎人类创造力的未来。他希望 Glaze 和 Nightshade 能够成为艺术家们对抗 AI 侵权的“武器”,帮助他们守护自己的创作,并最终改变 AI 产业的生态。

“看到人类的生命价值被如此轻视,真是令人沮丧。”Zhao 说,“看到这种将利润置于人性之上的行为一次又一次地发生,真是令人愤怒。”

Glaze 和 Nightshade 的出现,引发了 AI 社区的激烈讨论。一些人质疑这些工具的有效性,甚至将其视为“病毒”。但 Zhao 坚信,这些工具是必要的,因为 AI 技术的发展速度太快,而 AI 公司对艺术家们的权益漠不关心。

“这是我们整个科技生涯中第一次遇到如此激烈的冲突。”Zhao 的妻子,也是 SAND 实验室的联合负责人 Heather Zheng 说,“我们必须做点什么,保护艺术家们的权益。”

Zhao 和 Zheng 希望 Glaze 和 Nightshade 能够最终改变 AI 公司对艺术的利用方式。他们认为,如果足够多的艺术家使用 Nightshade 来保护自己的作品,AI 公司最终会意识到,继续“窃取”艺术家的作品将得不偿失。他们可能会被迫与艺术家们谈判,达成公平的授权协议,并为艺术家们提供合理的报酬。

当然,这只是一个美好的愿景。目前,AI 公司对艺术家们的诉求大多置之不理。一些公司已经开始用 AI 系统取代设计师、文案和插画师。例如,漫威影业在 2023 年的电视剧《秘密入侵》中使用了 AI 生成的图像,而不是人类创作的艺术作品。一家广播电台也解雇了人类主持人,用 AI 取代了他们。AI 技术已经成为工会和电影、电视、创意工作室之间争执的焦点,最近还导致了视频游戏表演者的罢工。艺术家、作家、出版商和唱片公司正在对 AI 公司提起多起诉讼。这场法律战可能需要数年时间才能得出明确的结果。但即使法院做出裁决,也无法解决 AI 生成技术带来的复杂伦理问题。未来的政府监管也可能无法解决这些问题。

因此,Zhao 和 Zheng 认为,Glaze 和 Nightshade 是必要的干预措施。它们是保护原创作品、攻击那些“窃取”作品的人的工具,至少可以为艺术家们争取一些时间。他们希望这些工具能够成为艺术家们对抗 AI 侵权的“武器”,帮助他们守护自己的创作,并最终改变 AI 产业的生态。

“我们必须做点什么,保护艺术家们的权益。”Zheng 说,“我们必须为他们提供希望。”

SAND 实验室正在积极寻求来自基金会和非营利组织的资金,以继续开发和推广 Glaze 和 Nightshade。他们也收到了来自一些大型公司的合作意向,这些公司希望保护自己的知识产权。Zhao 和 Zheng 正在探索如何将这些工具应用到其他行业,例如游戏、视频或音乐。他们计划不断更新 Glaze 和 Nightshade,使其更加强大,并与芝加哥实验室的学生紧密合作。在实验室的另一面墙上,挂着 Toorenent 的《颠茄》画作。画作的右下角贴着一张心形便签,上面写着:“谢谢你们!你们给了我们艺术家希望。”

本文已更新 Glaze 和 Nightshade 的最新下载数据。




2024-11-15





admin

group of students and teachers posing in Halloween costumes当我去芝加哥的 SAND 实验室参观时,我看到了这个团队的紧密团结。除了典型的办公室用品外,还有像这样有趣的万圣节照片。(前排:Ronik Bhaskar、Josephine Passananti、Anna YJ Ha、Zhuolin Yang、Ben Zhao、Heather Zheng。后排:Cathy Yuanchen Li、Wenxin Ding、Stanley Wu 和 Shawn Shan。)
SAND 实验室提供
Belladonna artwork shows a central character with a skull head in a dark forest illuminated around them by the belladonna flower slung over their shoulderToorenent 的《颠茄》在线图像经过了 SAND 实验室的 Nightshade 工具处理。
EVA TOORENENT
Share This Article
Email Copy Link Print
Previous Article Box 超越数据共享,推出智能AI工作室和无代码应用
Next Article Microsoft Azure 是微軟的公用雲端服務平台 微软Azure巨额投资:如何寻找平衡点
Leave a Comment

发表回复 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

最新内容
Akool avatar customization
AI赋能2D形象,酷似真人
AI
广电总局:2025年Q1全国有线电视用户2.07亿户
报告
IDC:2024年华为中国POL市场份额连续六年第一
报告
20250608174609752.png
乘联分会:2025年5月新能源乘用车厂商批发销量快讯
报告

相关内容

20250503225244900.png
AI

谷歌放弃 AI 武器禁令,未来人工智能走向何方?

2025年5月4日
微芯片特写,置于欧分硬币之上
AI

神经拟态芯片赋能智能传感器

2025年6月6日
illustrated-pattern-made-up-of-multiple-
AI

科学写作中的AI:机遇与挑战

2025年2月28日
AI

面向中低收入国家开发者的 OpenAI 学院,赠送百万美元开发积分

2024年9月24日
Show More
前途科技

前途科技是一个致力于提供全球最新科技资讯的专业网站。我们以实时更新的方式,为用户呈现来自世界各地的科技新闻和深度分析,涵盖从技术创新到企业发展等多方面内容。专注于为用户提供高质量的科技创业新闻和行业动态。

分类

  • AI
  • 初创

快速链接

  • 阅读历史
  • 我的关注
  • 我的收藏
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
前途科技
Username or Email Address
Password

Lost your password?