Nightshade: новый инструмент Чикагского университета защищает цифровые работы художников от обучения ИИ
Summary:
Исследователи из Чикагского университета создали инструмент под названием «Nightshade», который позволяет художникам модифицировать свое цифровое искусство, чтобы предотвратить его использование для обучения систем искусственного интеллекта. Инструмент изменяет изображения, чтобы ввести неверные данные в обучающие наборы данных ИИ, тем самым нарушая способность ИИ точно интерпретировать и выводить данные. Существующее программное обеспечение для защиты артистов, Glaze, будет включать в себя Nightshade.
Ученые из Чикагского университета представили технологию, позволяющую творческим людям защитить свое цифровое искусство от использования для обучения систем искусственного интеллекта (ИИ). Этот инструмент, получивший название «Паслен», перекликающийся с некоторыми ботаническими видами, печально известными своими смертоносными ягодами, изменяет изображения таким образом, что загрязняет наборы данных, используемые для обучения ИИ, ложными данными. В Technology Review от MIT объясняется, что Nightshade тонко перерабатывает пиксели цифрового изображения, обманывая искусственный интеллект и неправильно читая произведение искусства. Tech Review иллюстрирует это, описывая, как ИИ можно обмануть, заставив поверить в то, что изображение кошки — это изображение собаки, и наоборот. Следовательно, это ограничивает способность ИИ выдавать точные и логичные результаты. Гипотетически, если кто-то запросил у скомпрометированного ИИ изображение «кошки», он может получить либо ошибочно идентифицированную собаку, либо мешанину из всех «кошек» в обучающих данных ИИ, включая те, которые изображают собак, но изменены с помощью Nightshade. По теме: Universal Music Group объединяется, чтобы защитить права артистов от нарушений прав ИИ. Уважаемый ученый Виталий Шматиков из Корнельского университета, увидев работу, предположил, что в настоящее время не существует существенной защиты от таких нападений. Его комментарии подразумевают, что даже продвинутые модели, такие как ChatGPT от OpenAI, могут быть уязвимы. Профессор Бен Чжао из Чикагского университета возглавляет команду, создавшую Nightshade. Этот новый инструмент фактически расширяет их предыдущее программное обеспечение Glaze, направленное на защиту художников. Ранее они разработали процесс, позволяющий художникам маскировать или «глазировать» свой художественный стиль. Например, художник, пишущий портрет углем, может использовать это, чтобы изобразить свое искусство как современное для системы искусственного интеллекта. Планы на будущее указывают на то, что Nightshade будет включен в Glaze, который в настоящее время доступен бесплатно для онлайн-использования или загрузки на веб-сайте Чикагского университета.
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.