Nightshade: il nuovo strumento dell'Università di Chicago protegge le opere digitali degli artisti dall'addestramento dell'intelligenza artificiale
Summary:
I ricercatori dell'Università di Chicago hanno creato uno strumento chiamato "Nightshade" che consente agli artisti di modificare la loro arte digitale per evitare che venga utilizzata per addestrare i sistemi di intelligenza artificiale. Lo strumento altera le immagini per inserire dati errati nei set di dati di addestramento dell'IA, interrompendo così la capacità dell'IA di interpretare e produrre in modo accurato. Il software di protezione degli artisti esistente, Glaze, incorporerà Nightshade.
Gli scienziati dell'Università di Chicago hanno introdotto una tecnica che consente ai creativi di proteggere la loro arte digitale dall'utilizzo per educare i sistemi di intelligenza artificiale (AI). Chiamato "Nightshade", riecheggiando alcune specie botaniche famigerate per le loro bacche mortali, questo strumento altera le immagini in un modo che inquina i set di dati utilizzati per l'addestramento dell'IA con dati falsi. La Technology Review del MIT spiega che Nightshade rielabora sottilmente i pixel di un'immagine digitale, ingannando l'IA inducendola a fraintendere l'opera d'arte. Tech Review esemplifica questo concetto descrivendo come l'IA possa essere ingannata facendogli credere che l'immagine di un gatto sia un'immagine di un cane e viceversa. Di conseguenza, ciò ostacola la capacità dell'IA di produrre risultati precisi e logici. Ipoteticamente, se qualcuno richiedesse un'immagine di "gatto" all'IA compromessa, potrebbe ottenere un cane identificato erroneamente o un miscuglio di tutti i "gatti" nei dati di apprendimento dell'IA, compresi quelli raffiguranti cani ma alterati usando Nightshade. Correlato: Universal Music Group si associa per salvaguardare i diritti degli artisti dalle violazioni dell'intelligenza artificiale. L'autorevole accademico Vitaly Shmatikov della Cornell University, vedendo il lavoro, ha ipotizzato che attualmente non ci sono difese sostanziali contro tali aggressioni. I suoi commenti implicano che anche modelli avanzati come ChatGPT di OpenAI potrebbero essere vulnerabili. Il professor Ben Zhao dell'Università di Chicago è a capo del team che ha creato Nightshade. Questo nuovo strumento in realtà amplia il loro precedente software Glaze, volto a proteggere gli artisti. In precedenza hanno sviluppato un processo che consente agli artisti di camuffare o "glassare" il loro stile di opere d'arte. Ad esempio, un ritrattista a carboncino potrebbe usarlo per ritrarre la propria arte come moderna per un sistema di intelligenza artificiale. I piani futuri indicano che Nightshade sarà incorporato in Glaze, che è attualmente disponibile gratuitamente per l'uso online o per il download sul sito Web dell'Università di Chicago.
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.