LAION zieht KI-Datensätze nach Entdeckung von Inhalten zur Ausbeutung von Kindern zurück
Summary:
Die populären Datensätze LAION-5B und LAION-400M der deutschen Non-Profit-Organisation LAION wurden zurückgezogen, nachdem Stanford-Forscher mutmaßliches Material zur Ausbeutung von Kindern entdeckt hatten. Obwohl solche Inhalte die Ergebnisse von KI-Modellen nicht unbedingt drastisch beeinflussen, können sie Auswirkungen haben, insbesondere wenn sie wiederholt werden. LAION verspricht strenge Maßnahmen gegen illegale Inhalte und arbeitet mit Organisationen zusammen, um die Linksicherheit in ihren Datensätzen zu überprüfen und zu gewährleisten. Um die Sicherheit der Datensätze zu gewährleisten, hat LAION die umstrittenen Datensätze entfernt, bevor sie erneut veröffentlicht werden.
Ein beliebter Datensatz mit künstlicher Intelligenz, der üblicherweise zur Ausbildung von Modellen wie Stable Diffusion und Imagen verwendet wird, wurde von seinem Anbieter zurückgezogen. Dies geschah, nachdem eine Untersuchung das Vorhandensein zahlreicher mutmaßlicher Fälle von Material zur Ausbeutung von Kindern ergeben hatte. Die Organisation, die für diesen Datensatz verantwortlich ist, LAION - das Large-scale Artificial Intelligence Open Network, ist eine gemeinnützige Organisation aus Deutschland, die Open-Source-KI-Modelle und Trainingssets für eine Vielzahl von Text-zu-Bild-Anwendungen beisteuert.
Forscher des Cyber Policy Center des Stanford Internet Observatory veröffentlichten am 20. Dezember einen Bericht, in dem es heißt, dass sie 3.226 Fälle von mutmaßlichem Material zur Ausbeutung von Kindern im LAION-5B-Datensatz entdeckt haben. Laut David Thiel, Big Data Architect und Chief Technologist des Cyber Policy Center, haben Dritte einen erheblichen Teil dieses Materials verifiziert. Thiel erklärte auch, dass das Vorhandensein eines solchen Inhalts nicht unbedingt bedeutet, dass er die Ergebnisse von Modellen, die mit dem Datensatz trainiert wurden, drastisch verändern wird. Sie kann jedoch potenziell einen gewissen Einfluss ausüben. Die Wiederholung identischen Ausbeutungsmaterials könne besonders problematisch sein, da es Bilder unterschiedlicher Opfer verstärke, fügte er hinzu.
LAION hat im März 2022 den LAION-5B-Datensatz eingeführt, der 5,85 Milliarden Bild-Text-Paare umfasst. Die Organisation unterhält strenge Richtlinien gegen illegale Inhalte und arbeitet unter anderem mit Einrichtungen wie der Internet Watch Foundation zusammen, um die Sicherheit von Hyperlinks in den LAION-Datensätzen zu untersuchen und zu bestätigen. Diese Links werden mit Hilfe von Filtertools validiert, die von ihrer Community und den zugehörigen Organisationen eingerichtet wurden.
LAION signalisiert Vorsicht und hat erklärt, dass es die fragwürdigen Datensätze, darunter sowohl LAION-5B als auch LAION-400M, entfernt hat. Dieser Schritt wurde unternommen, um die Sicherheit der Datensätze zu gewährleisten, bevor sie wieder für die Nutzung zur Verfügung gestellt werden.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.