Nightshade : le nouvel outil de l’Université de Chicago protège les œuvres numériques des artistes de la formation de l’IA
Summary:
Les chercheurs de l’Université de Chicago ont créé un outil appelé « Nightshade » qui permet aux artistes de modifier leur art numérique pour éviter qu’il ne soit utilisé pour entraîner des systèmes d’IA. L’outil modifie les images pour introduire des données incorrectes dans les ensembles de données d’entraînement de l’IA, perturbant ainsi la capacité de l’IA à interpréter et à produire avec précision. Le logiciel de protection des artistes existant, Glaze, intégrera Nightshade.
Des scientifiques de l’Université de Chicago ont mis au point une technique permettant aux créatifs de protéger leur art numérique contre l’utilisation de systèmes d’intelligence artificielle (IA). Baptisé « Nightshade », en écho à certaines espèces botaniques tristement célèbres pour leurs baies mortelles, cet instrument altère les images d’une manière qui pollue les ensembles de données utilisés pour l’entraînement de l’IA avec de fausses données. La Technology Review du MIT explique que Nightshade retravaille subtilement les pixels d’une image numérique, trompant l’IA en l’incitant à mal interpréter l’œuvre d’art. Tech Review illustre cela en décrivant comment l’IA peut être escroquée en croyant qu’une image de chat est une image de chien, et vice versa. Par conséquent, cela entrave la capacité de l’IA à produire des résultats précis et logiques. Hypothétiquement, si quelqu’un demande une image de « chat » à l’IA compromise, il peut obtenir soit un chien identifié par erreur, soit un méli-mélo de tous les « chats » dans les données d’apprentissage de l’IA, y compris ceux représentant des chiens mais modifiés à l’aide de Nightshade. À lire également : Universal Music Group s’associe pour protéger les droits des artistes contre les violations de l’IA. L’universitaire respecté Vitaly Shmatikov de l’Université Cornell, voyant le travail, a émis l’hypothèse qu’il n’y avait actuellement aucune défense substantielle contre de telles attaques. Ses commentaires impliquent que même des modèles avancés comme ChatGPT d’OpenAI pourraient être vulnérables. Le professeur Ben Zhao de l’Université de Chicago est le fer de lance de l’équipe qui a créé Nightshade. Ce nouvel outil élargit en fait leur ancien logiciel Glaze, destiné à protéger les artistes. Ils ont précédemment mis au point un processus permettant aux artistes de camoufler ou de « glaciser » leur style d’œuvre. Par exemple, un portraitiste au fusain pourrait l’utiliser pour présenter son art comme moderne à un système d’IA. Les plans futurs indiquent que Nightshade sera incorporé dans Glaze, qui est actuellement disponible gratuitement pour une utilisation en ligne ou en téléchargement sur le site Web de l’Université de Chicago.
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.