前途科技
  • AI
  • 初创
  • 报告
我的兴趣
前途科技前途科技
Font ResizerAa
站内搜索
Have an existing account? Sign In
Follow US
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
AI

AI实验室反击剥削性人工智能

NEXTECH
Last updated: 2024年11月15日 上午3:03
By NEXTECH
Share
22 Min Read
SHARE

AI 时代,艺术家们的“毒药”:对抗算法,守护创作

当艺术家们开始担忧自己的作品被 AI 吞噬,一位名叫 Ben Zhao 的计算机安全研究员站了出来。他并非艺术界人士,却因其在保护图像免受面部识别技术侵害方面的研究,被艺术家们视为“救世主”。

2022 年 11 月,艺术家们在一次 Zoom 会议中向 Zhao 倾诉了他们的困境。AI 生成图像模型的兴起,让他们的创作面临着前所未有的挑战。这些模型可以根据简单的文字提示生成图像,却也无情地“窃取”着艺术家们的风格和创意。一些艺术家发现自己的作品被用于训练 AI 模型,而另一些则发现自己的名字成为了 AI 生成图像的关键词,导致他们的作品被 AI 仿制品淹没。

Zhao 被艺术家们的遭遇震惊了。他意识到,这不仅仅是技术问题,更关乎艺术家的生计和创作自由。于是,他提出了一个大胆的想法:能否开发一种机制,帮助艺术家们保护自己的作品,防止 AI 模型“窃取”他们的风格?

“我希望有一个工具,当有人用我的名字作为提示词时,AI 会生成一堆垃圾,比如香蕉,或者其他奇怪的东西。”知名数字艺术家 Karla Ortiz 说道。她的这句话,让 Zhao 坚定了决心,加入了这场对抗 AI 的战斗。

如今,由 Zhao 和芝加哥大学 SAND 实验室(Security, Algorithms, Networking, and Data)共同开发的 Glaze 和 Nightshade 已经成为艺术家们对抗 AI 侵权的利器。这两个工具的工作原理类似:通过在图像像素中添加“几乎不可察觉”的扰动,使机器学习模型无法正确识别和复制图像。

Glaze 自 2023 年 3 月发布以来,已被下载超过 600 万次。它为图像添加了一层“隐形斗篷”,阻止 AI 算法识别和复制艺术家的风格。Nightshade 则更具攻击性,它在图像中添加了一层“毒药”,可以破坏 AI 模型,使其无法正常生成图像。自发布以来,Nightshade 已被下载超过 160 万次。

“有了这些工具,我终于可以放心地将我的作品发布到网络上了。”Ortiz 说,“这对我们来说意义重大。”对于像 Ortiz 这样的艺术家来说,在网络上展示自己的作品至关重要,因为这关系到他们获得更多工作的机会。如果他们担心自己的作品会被 AI 模型“窃取”而无法获得报酬,他们只能选择将作品从网络上删除,这无疑是职业自杀。Ortiz 已经成为艺术家权益的积极倡导者,并参与了一起针对 AI 公司(包括 Stability AI)的版权侵权集体诉讼。

Zhao 希望这些工具能够赋予艺术家们更多的权力,并最终改变 AI 公司对艺术的利用方式。他认为,这场战斗不仅仅关乎个体艺术家,更关乎人类创造力的未来。他希望 Glaze 和 Nightshade 能够成为艺术家们对抗 AI 侵权的“武器”,帮助他们守护自己的创作,并最终改变 AI 产业的生态。

“看到人类的生命价值被如此轻视,真是令人沮丧。”Zhao 说,“看到这种将利润置于人性之上的行为一次又一次地发生,真是令人愤怒。”

Glaze 和 Nightshade 的出现,引发了 AI 社区的激烈讨论。一些人质疑这些工具的有效性,甚至将其视为“病毒”。但 Zhao 坚信,这些工具是必要的,因为 AI 技术的发展速度太快,而 AI 公司对艺术家们的权益漠不关心。

“这是我们整个科技生涯中第一次遇到如此激烈的冲突。”Zhao 的妻子,也是 SAND 实验室的联合负责人 Heather Zheng 说,“我们必须做点什么,保护艺术家们的权益。”

Zhao 和 Zheng 希望 Glaze 和 Nightshade 能够最终改变 AI 公司对艺术的利用方式。他们认为,如果足够多的艺术家使用 Nightshade 来保护自己的作品,AI 公司最终会意识到,继续“窃取”艺术家的作品将得不偿失。他们可能会被迫与艺术家们谈判,达成公平的授权协议,并为艺术家们提供合理的报酬。

当然,这只是一个美好的愿景。目前,AI 公司对艺术家们的诉求大多置之不理。一些公司已经开始用 AI 系统取代设计师、文案和插画师。例如,漫威影业在 2023 年的电视剧《秘密入侵》中使用了 AI 生成的图像,而不是人类创作的艺术作品。一家广播电台也解雇了人类主持人,用 AI 取代了他们。AI 技术已经成为工会和电影、电视、创意工作室之间争执的焦点,最近还导致了视频游戏表演者的罢工。艺术家、作家、出版商和唱片公司正在对 AI 公司提起多起诉讼。这场法律战可能需要数年时间才能得出明确的结果。但即使法院做出裁决,也无法解决 AI 生成技术带来的复杂伦理问题。未来的政府监管也可能无法解决这些问题。

因此,Zhao 和 Zheng 认为,Glaze 和 Nightshade 是必要的干预措施。它们是保护原创作品、攻击那些“窃取”作品的人的工具,至少可以为艺术家们争取一些时间。他们希望这些工具能够成为艺术家们对抗 AI 侵权的“武器”,帮助他们守护自己的创作,并最终改变 AI 产业的生态。

“我们必须做点什么,保护艺术家们的权益。”Zheng 说,“我们必须为他们提供希望。”

SAND 实验室正在积极寻求来自基金会和非营利组织的资金,以继续开发和推广 Glaze 和 Nightshade。他们也收到了来自一些大型公司的合作意向,这些公司希望保护自己的知识产权。Zhao 和 Zheng 正在探索如何将这些工具应用到其他行业,例如游戏、视频或音乐。他们计划不断更新 Glaze 和 Nightshade,使其更加强大,并与芝加哥实验室的学生紧密合作。在实验室的另一面墙上,挂着 Toorenent 的《颠茄》画作。画作的右下角贴着一张心形便签,上面写着:“谢谢你们!你们给了我们艺术家希望。”

本文已更新 Glaze 和 Nightshade 的最新下载数据。




2024-11-15





admin

group of students and teachers posing in Halloween costumes当我去芝加哥的 SAND 实验室参观时,我看到了这个团队的紧密团结。除了典型的办公室用品外,还有像这样有趣的万圣节照片。(前排:Ronik Bhaskar、Josephine Passananti、Anna YJ Ha、Zhuolin Yang、Ben Zhao、Heather Zheng。后排:Cathy Yuanchen Li、Wenxin Ding、Stanley Wu 和 Shawn Shan。)
SAND 实验室提供
Belladonna artwork shows a central character with a skull head in a dark forest illuminated around them by the belladonna flower slung over their shoulderToorenent 的《颠茄》在线图像经过了 SAND 实验室的 Nightshade 工具处理。
EVA TOORENENT
Share This Article
Email Copy Link Print
Previous Article Box 超越数据共享,推出智能AI工作室和无代码应用
Next Article Microsoft Azure 是微軟的公用雲端服務平台 微软Azure巨额投资:如何寻找平衡点
Leave a Comment

发表回复 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

最新内容
20250614174408432.png
Gartner:2024年全球半导体收入总计6559亿美元 同比增长21%
报告
肖战主演《藏海传》播放量超15.85亿 登顶2025古装剧第一
灯塔专业版:2025年《藏海传》播放量15.85亿登顶古装剧
报告
5月中国香港新能源汽车销量榜出炉:特斯拉夺回第一
香港新能源车销量榜:2025年5月特斯拉1391辆夺冠
报告
行业第二!小米电视拿下21.2%份额:领先海信、创维等传统厂商
洛图科技:2025年5月中国电视市场出货量283万台
报告

相关内容

AI

AI 赋能职场:数字化代理将重塑工作方式

2024年10月1日
AI

企业 AI 从实验走向必需,支出增长 130%

2024年11月14日
随着元宇宙失利,科技巨头Meta正转向以新型人工智慧(AI)機器人技術為主的實體技術。
AI

Meta放弃元宇宙,转向机器人业务

2024年11月22日
AI

AWS Generative AI 助力市场拓展

2024年10月18日
Show More
前途科技

前途科技是一个致力于提供全球最新科技资讯的专业网站。我们以实时更新的方式,为用户呈现来自世界各地的科技新闻和深度分析,涵盖从技术创新到企业发展等多方面内容。专注于为用户提供高质量的科技创业新闻和行业动态。

分类

  • AI
  • 初创

快速链接

  • 阅读历史
  • 我的关注
  • 我的收藏
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
前途科技
Username or Email Address
Password

Lost your password?