Nightshade: Nova ferramenta da Universidade de Chicago protege obras digitais de artistas de treinamento em IA
Summary:
Os pesquisadores da Universidade de Chicago criaram uma ferramenta chamada "Nightshade" que permite que artistas modifiquem sua arte digital para evitar que ela seja usada para treinar sistemas de IA. A ferramenta altera imagens para alimentar dados incorretos em conjuntos de dados de treinamento de IA, interrompendo assim a capacidade da IA de interpretar e produzir com precisão. O software de proteção ao artista existente, Glaze, incorporará o Nightshade.
Cientistas da Universidade de Chicago introduziram uma técnica que permite aos criativos proteger sua arte digital de ser usada para educar sistemas de inteligência artificial (IA). Denominado "Nightshade", ecoando certas espécies botânicas infames por suas bagas mortais, este instrumento altera imagens de uma maneira que polui os conjuntos de dados usados para treinamento de IA com dados falsos. A Technology Review do MIT explica que Nightshade retrabalha sutilmente os pixels de uma imagem digital, enganando a IA para que ela leia mal a arte. A Tech Review exemplifica isso descrevendo como a IA pode ser enganada para acreditar que uma imagem de gato é uma imagem de cachorro e vice-versa. Consequentemente, isso dificulta a capacidade da IA de produzir resultados precisos e lógicos. Hipoteticamente, se alguém solicitou uma imagem de "gato" da IA comprometida, pode obter um cão erroneamente identificado ou uma mistura de todos os "gatos" nos dados de aprendizado da IA, incluindo aqueles que retratam cães, mas alterados usando Nightshade. Relacionado: Universal Music Group associa-se para salvaguardar os direitos dos artistas de infrações de IA. Respeitado acadêmico, Vitaly Shmatikov, da Universidade de Cornell, ao ver o trabalho, especulou que atualmente não há defesas substanciais contra tais ataques. Seus comentários sugerem que mesmo modelos avançados como o ChatGPT da OpenAI podem ser vulneráveis. O professor Ben Zhao, da Universidade de Chicago, lidera a equipe que criou Nightshade. Esta nova ferramenta na verdade amplia seu software anterior Glaze, destinado a proteger os artistas. Eles desenvolveram anteriormente um processo que permitia aos artistas camuflar, ou "esmaltar" seu estilo de arte. Por exemplo, um retratista de carvão poderia usar isso para retratar sua arte como moderna para um sistema de IA. Planos futuros indicam que o Nightshade será incorporado ao Glaze, que atualmente está disponível gratuitamente para uso on-line ou download no site da Universidade de Chicago.
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.