LAION retire des ensembles de données d’IA à la suite de la découverte de contenu d’exploitation d’enfants
Summary:
Les ensembles de données d’intelligence artificielle populaires LAION-5B et LAION-400M de LAION, une organisation allemande à but non lucratif, ont été retirés à la suite de la découverte par des chercheurs de Stanford de matériel suspect d’exploitation d’enfants. Bien qu’un tel contenu n’influence pas nécessairement de manière drastique les résultats des modèles d’IA, il peut avoir un impact, surtout s’il est répété. LAION promet des mesures strictes contre les contenus illégaux et travaille avec les organisations pour vérifier et assurer la sécurité des liens dans leurs ensembles de données. Pour garantir la sécurité des ensembles de données, LAION a supprimé les ensembles de données controversés avant qu’ils ne soient republiés.
Un ensemble de données d’intelligence artificielle populaire couramment utilisé pour éduquer des modèles tels que Stable Diffusion et Imagen a été retiré par son fournisseur. Cela survient après qu’une recherche a révélé la présence de nombreux cas présumés de matériel d’exploitation d’enfants. L’organisation responsable de cet ensemble de données, LAION - Large-scale Artificial Intelligence Open Network, est une organisation à but non lucratif allemande qui fournit des modèles d’IA open source et des ensembles d’entraînement pour une multitude d’applications de conversion de texte en image.
Des chercheurs du Cyber Policy Center de l’Observatoire Internet de Stanford ont publié un rapport le 20 décembre indiquant qu’ils avaient découvert 3 226 cas de matériel présumé d’exploitation d’enfants dans l’ensemble de données LAION-5B. Selon David Thiel, architecte Big Data et technologue en chef du Cyber Policy Center, des tiers ont vérifié une partie importante de ce matériel. Thiel a également déclaré que l’existence d’un tel contenu n’implique pas nécessairement qu’il modifiera radicalement les résultats des modèles entraînés sur l’ensemble de données ; Cependant, il peut potentiellement exercer une certaine influence. La répétition de matériel d’exploitation identique pourrait être particulièrement problématique en raison du renforcement des images de victimes distinctes, a-t-il ajouté.
LAION a introduit l’ensemble de données LAION-5B en mars 2022, comprenant 5,85 milliards de paires image-texte. L’organisation maintient une politique stricte contre les contenus illégaux et s’associe à des entités telles que l’Internet Watch Foundation, entre autres, pour examiner et confirmer la sécurité des hyperliens dans les ensembles de données de LAION. Ces liens sont validés à l’aide d’outils de filtrage établis par leur communauté et les organisations associées.
LAION, faisant preuve de prudence, a déclaré qu’il avait supprimé les ensembles de données douteux, y compris LAION-5B et LAION-400M. Cette mesure a été prise afin d’assurer la sécurité des ensembles de données avant qu’ils ne soient à nouveau disponibles.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.