LAION ritira i set di dati sull'IA in seguito alla scoperta di contenuti di sfruttamento minorile
Summary:
I popolari set di dati sull'intelligenza artificiale LAION-5B e LAION-400M di LAION, un'organizzazione no-profit tedesca, sono stati ritirati in seguito alla scoperta da parte dei ricercatori di Stanford di materiale sospetto di sfruttamento minorile. Sebbene tali contenuti non influenzino necessariamente drasticamente i risultati dei modelli di intelligenza artificiale, possono avere un impatto, soprattutto se ripetuti. LAION promette misure rigorose contro i contenuti illegali e collabora con le organizzazioni per controllare e garantire la sicurezza dei link nei loro set di dati. Per garantire la sicurezza dei set di dati, LAION ha rimosso i set di dati controversi prima che vengano ripubblicati.
Un popolare set di dati di intelligenza artificiale comunemente impiegato per educare modelli come Stable Diffusion e Imagen è stato ritirato dal suo fornitore. Ciò avviene dopo che una ricerca ha rivelato la presenza di numerosi casi sospetti di materiale di sfruttamento minorile. L'organizzazione responsabile di questo set di dati, LAION - Large-scale Artificial Intelligence Open Network, è un'organizzazione senza scopo di lucro tedesca che contribuisce con modelli di intelligenza artificiale open source e set di addestramento per una serie di applicazioni text-to-image.
I ricercatori del Cyber Policy Center dello Stanford Internet Observatory hanno pubblicato un rapporto il 20 dicembre affermando di aver scoperto 3.226 casi di sospetto materiale di sfruttamento minorile all'interno del set di dati LAION-5B. Secondo David Thiel, Big Data Architect e Chief Technologist del Cyber Policy Center, terze parti hanno verificato una parte significativa di questo materiale. Thiel ha anche affermato che l'esistenza di tale contenuto non implica necessariamente che modificherà drasticamente i risultati dei modelli addestrati sul set di dati; tuttavia, può potenzialmente esercitare una certa influenza. La ripetizione di materiale di sfruttamento identico potrebbe essere particolarmente problematica a causa del suo rafforzamento di immagini di vittime distinte, ha aggiunto.
LAION ha introdotto il set di dati LAION-5B nel marzo 2022, che comprende 5,85 miliardi di coppie immagine-testo. L'organizzazione mantiene una politica rigorosa contro i contenuti illegali e collabora con entità come la Internet Watch Foundation, tra le altre, per esaminare e confermare la sicurezza dei collegamenti ipertestuali nei set di dati LAION. Questi collegamenti vengono convalidati con l'aiuto di strumenti di filtraggio stabiliti dalla loro comunità e dalle organizzazioni associate.
LAION, segnalando cautela, ha dichiarato di aver rimosso i set di dati discutibili, tra cui sia LAION-5B che LAION-400M. Questa misura è stata adottata per garantire la sicurezza dei set di dati prima che vengano resi nuovamente disponibili per l'utilizzo.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.