LAION retira conjuntos de dados de IA após descoberta de conteúdo de exploração infantil
Summary:
Os populares conjuntos de dados de inteligência artificial LAION-5B e LAION-400M da LAION, uma organização alemã sem fins lucrativos, foram retirados após pesquisadores de Stanford descobrirem material suspeito de exploração infantil. Embora esse conteúdo não necessariamente influencie drasticamente as saídas do modelo de IA, ele pode ter um impacto, especialmente se repetido. A LAION promete medidas rigorosas contra conteúdo ilegal e trabalha com organizações para verificar e garantir a segurança dos links em seus conjuntos de dados. Para garantir a segurança do conjunto de dados, o LAION removeu os conjuntos de dados controversos antes que eles sejam republicados.
Um popular conjunto de dados de inteligência artificial comumente empregado para educar modelos como Stable Diffusion e Imagen foi retirado por seu provedor. Isso ocorre depois que uma pesquisa revelou a presença de inúmeros casos suspeitos de material de exploração infantil. A organização responsável por esse conjunto de dados, LAION - Large-scale Artificial Intelligence Open Network, é uma organização sem fins lucrativos da Alemanha que contribui com modelos de IA de código aberto e conjuntos de treinamento para uma série de aplicativos de texto para imagem.
Pesquisadores do Cyber Policy Center do Stanford Internet Observatory publicaram um relatório em 20 de dezembro afirmando que descobriram 3.226 casos de material suspeito de exploração infantil dentro do conjunto de dados LAION-5B. De acordo com David Thiel, arquiteto de Big Data e tecnologista-chefe do Cyber Policy Center, terceiros verificaram uma parcela significativa desse material. Thiel também afirmou que a existência de tal conteúdo não implica necessariamente que ele modificará drasticamente os resultados dos modelos treinados no conjunto de dados; no entanto, pode potencialmente exercer alguma influência. A repetição de material de exploração idêntico pode ser especialmente problemática devido ao reforço de imagens de vítimas distintas, acrescentou.
O LAION introduziu o conjunto de dados LAION-5B em março de 2022, compreendendo 5,85 bilhões de pares imagem-texto. A organização mantém uma política rigorosa contra conteúdo ilegal e faz parcerias com entidades como a Internet Watch Foundation, entre outras, para examinar e confirmar a segurança dos hiperlinks nos conjuntos de dados LAION. Esses links são validados com a ajuda de ferramentas de filtragem estabelecidas por sua comunidade e organizações associadas.
O LAION, sinalizando cautela, declarou que removeu os conjuntos de dados questionáveis, incluindo LAION-5B e LAION-400M. Essa etapa foi tomada para garantir a segurança dos conjuntos de dados antes que eles sejam disponibilizados para uso novamente.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.