Nightshade: la nueva herramienta de la Universidad de Chicago protege las obras digitales de los artistas del entrenamiento en IA
Summary:
Los investigadores de la Universidad de Chicago han creado una herramienta llamada "Nightshade" que permite a los artistas modificar su arte digital para evitar que se utilice para entrenar sistemas de IA. La herramienta altera las imágenes para introducir datos incorrectos en los conjuntos de datos de entrenamiento de la IA, lo que interrumpe la capacidad de la IA para interpretar y generar con precisión. El software de protección de artistas existente, Glaze, incorporará Nightshade.
Científicos de la Universidad de Chicago han introducido una técnica que permite a los creativos proteger su arte digital para que no se utilice para educar a los sistemas de inteligencia artificial (IA). Denominado "Belladona", haciéndose eco de ciertas especies botánicas tristemente célebres por sus bayas mortales, este instrumento altera las imágenes de una manera que contamina los conjuntos de datos utilizados para el entrenamiento de IA con datos falsos. The Technology Review del MIT explica que Nightshade reelabora sutilmente los píxeles de una imagen digital, engañando a la IA para que malinterprete la obra de arte. Tech Review ejemplifica esto al describir cómo se puede estafar a la IA haciéndole creer que una imagen de gato es una imagen de perro, y viceversa. En consecuencia, esto dificulta la capacidad de la IA para producir resultados precisos y lógicos. Hipotéticamente, si alguien solicitara una imagen de "gato" a la IA comprometida, podría obtener un perro identificado erróneamente o una mezcla de todos los "gatos" en los datos de aprendizaje de la IA, incluidos los que representan perros pero alterados con Nightshade. Relacionado: Universal Music Group se asocia para salvaguardar los derechos de los artistas frente a las infracciones de la IA. El respetado académico Vitaly Shmatikov de la Universidad de Cornell, al ver el trabajo, especuló que actualmente no hay defensas sustanciales contra tales ataques. Sus comentarios implican que incluso modelos avanzados como ChatGPT de OpenAI podrían ser vulnerables. El profesor Ben Zhao, de la Universidad de Chicago, encabeza el equipo que creó Nightshade. Esta novedosa herramienta en realidad amplía su software anterior Glaze, destinado a proteger a los artistas. Anteriormente desarrollaron un proceso que permitía a los artistas camuflar o "esmaltar" su estilo de arte. Por ejemplo, un retratista al carboncillo podría usar esto para retratar su arte como moderno a un sistema de IA. Los planes futuros indican que Nightshade se incorporará a Glaze, que actualmente está disponible de forma gratuita para su uso en línea o descarga en el sitio web de la Universidad de Chicago.
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.