Nightshade：芝加哥大学的新工具保护艺术家的数字作品免受人工智能培训
Summary:
芝加哥大学的研究人员创建了一个名为“Nightshade”的工具，允许艺术家修改他们的数字艺术，以防止它被用来训练人工智能系统。该工具会更改图像以将不正确的数据输入AI训练数据集，从而破坏AI准确解释和输出的能力。现有的艺术家保护软件Glaze将采用Nightshade。
芝加哥大学的科学家引入了一种技术，使创意人员能够保护他们的数字艺术不被用于教育人工智能（AI）系统。被称为“Nightshade”，呼应某些因其致命浆果而臭名昭著的植物物种，这种仪器以一种用虚假数据污染用于人工智能训练的数据集的方式改变图片。麻省理工学院的《技术评论》解释说，Nightshade巧妙地重新设计了数字图像的像素，欺骗AI误读了艺术品。《技术评论》通过描述人工智能如何被欺骗相信猫的图像是狗的图像来说明这一点，反之亦然。因此，这阻碍了人工智能产生精确和合乎逻辑的结果的能力。假设，如果有人从受感染的AI那里请求一张“猫”图片，他们可能会得到一只错误识别的狗或AI学习数据中所有“猫”的大杂烩，包括那些描绘狗但使用Nightshade改变的猫。相关：环球音乐集团联手保护艺术家的权利免受人工智能侵权。来自康奈尔大学的受人尊敬的学者维塔利·什马蒂科夫（Vitaly Shmatikov）看到这项工作，推测目前没有针对此类攻击的实质性防御措施。他的评论暗示，即使是像OpenAI的ChatGPT这样的高级模型也可能容易受到攻击。来自芝加哥大学的Ben Zhao教授领导了创建Nightshade的团队。这个新颖的工具实际上拓宽了他们以前的软件Glaze，旨在屏蔽艺术家。他们之前开发了一种工艺，允许艺术家伪装或“釉化”他们的艺术品风格。例如，木炭肖像艺术家可以使用它来将他们的艺术描绘成人工智能系统的现代艺术。未来的计划表明，Nightshade将被纳入Glaze，目前可以免费在线使用或在芝加哥大学网站上下载。
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.