LAION retira conjuntos de datos de IA tras el descubrimiento de contenido de explotación infantil
Summary:
Los populares conjuntos de datos de inteligencia artificial LAION-5B y LAION-400M de LAION, una organización alemana sin fines de lucro, han sido retirados después de que investigadores de Stanford descubrieran material sospechoso de explotación infantil. Aunque este tipo de contenido no necesariamente influye drásticamente en los resultados de los modelos de IA, puede tener un impacto, especialmente si se repite. LAION promete medidas estrictas contra el contenido ilegal y trabaja con organizaciones para verificar y garantizar la seguridad de los enlaces en sus conjuntos de datos. Para garantizar la seguridad de los conjuntos de datos, LAION ha eliminado los controvertidos conjuntos de datos antes de que se vuelvan a publicar.
Un popular conjunto de datos de inteligencia artificial comúnmente empleado para educar modelos como Stable Diffusion e Imagen ha sido retirado por su proveedor. Esto se produce después de que una investigación revelara la presencia de numerosos casos sospechosos de material de explotación infantil. La organización responsable de este conjunto de datos, LAION - la Red Abierta de Inteligencia Artificial a Gran Escala, es una organización sin ánimo de lucro de Alemania que contribuye con modelos de IA de código abierto y conjuntos de entrenamiento para una gran cantidad de aplicaciones de texto a imagen.
Investigadores del Centro de Política Cibernética del Observatorio de Internet de Stanford publicaron un informe el 20 de diciembre en el que afirman que han descubierto 3.226 casos de material sospechoso de explotación infantil dentro del conjunto de datos LAION-5B. Según David Thiel, arquitecto de Big Data y jefe de tecnología del Centro de Política Cibernética, terceros han verificado una parte significativa de este material. Thiel también afirmó que la existencia de dicho contenido no implica necesariamente que vaya a modificar drásticamente los resultados de los modelos entrenados en el conjunto de datos; sin embargo, puede ejercer alguna influencia. La repetición de material de explotación idéntico podría ser especialmente problemática debido a que refuerza las imágenes de distintas víctimas, agregó.
LAION presentó el conjunto de datos LAION-5B en marzo de 2022, que comprende 5.850 millones de pares de imagen y texto. La organización mantiene una política estricta contra el contenido ilegal y se asocia con entidades como la Internet Watch Foundation, entre otras, para examinar y confirmar la seguridad de los hipervínculos en los conjuntos de datos de LAION. Estos enlaces se validan con la ayuda de herramientas de filtrado establecidas por su comunidad y organizaciones asociadas.
LAION, señalando cautela, ha declarado que ha eliminado los conjuntos de datos cuestionables, incluidos LAION-5B y LAION-400M. Este paso se tomó para garantizar la seguridad de los conjuntos de datos antes de que vuelvan a estar disponibles para su uso.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.