LAION, Çocuk İstismarı İçeriğinin Keşfedilmesinin Ardından Yapay Zeka Veri Setlerini Geri Çekiyor
Summary:
Kar amacı gütmeyen bir Alman kuruluşu olan LAION'un popüler yapay zeka veri setleri LAION-5B ve LAION-400M, Stanford araştırmacılarının şüpheli çocuk istismarı materyallerini keşfetmesinin ardından geri çekildi. Bu tür içerikler, yapay zeka modeli çıktılarını büyük ölçüde etkilemese de, özellikle tekrarlanırsa bir etkisi olabilir. LAION, yasa dışı içeriğe karşı katı önlemler vaat eder ve veri kümelerinde bağlantı güvenliğini kontrol etmek ve sağlamak için kuruluşlarla birlikte çalışır. Veri seti güvenliğini sağlamak için LAION, tartışmalı veri setlerini yeniden yayınlanmadan önce kaldırdı.
Stable Diffusion ve Imagen gibi modelleri eğitmek için yaygın olarak kullanılan popüler bir yapay zeka veri seti, sağlayıcısı tarafından geri çekildi. Bu, bir araştırmanın çok sayıda şüpheli çocuk istismarı materyalinin varlığını ortaya çıkarmasından sonra geldi. Bu veri setinden sorumlu kuruluş olan LAION - Büyük Ölçekli Yapay Zeka Açık Ağı, bir dizi metinden görüntüye uygulama için açık kaynaklı yapay zeka modellerine ve eğitim setlerine katkıda bulunan Almanya'dan kar amacı gütmeyen bir kuruluştur.
Stanford İnternet Gözlemevi'nin Siber Politika Merkezi'nden araştırmacılar, 20 Aralık'ta LAION-5B veri setinde 3.226 şüpheli çocuk istismarı materyali ortaya çıkardıklarını belirten bir rapor yayınladılar. Siber Politika Merkezi'nin Büyük Veri Mimarı ve Baş Teknoloji Uzmanı David Thiel'e göre, üçüncü taraflar bu materyalin önemli bir bölümünü doğruladı. Thiel ayrıca, bu tür bir içeriğin varlığının, veri seti üzerinde eğitilen modellerin sonuçlarını büyük ölçüde değiştireceği anlamına gelmediğini belirtti; ancak, potansiyel olarak bir miktar etki gösterebilir. Aynı istismar materyalinin tekrarı, farklı kurbanların görüntülerini güçlendirmesi nedeniyle özellikle sorunlu olabilir, diye ekledi.
LAION, Mart 2022'de 5,85 milyar görüntü-metin çiftinden oluşan LAION-5B veri setini tanıttı. Kuruluş, yasa dışı içeriğe karşı katı bir politika izler ve LAION veri kümelerindeki köprülerin güvenliğini incelemek ve onaylamak için diğerlerinin yanı sıra Internet Watch Foundation gibi kuruluşlarla ortaklık kurar. Bu bağlantılar, toplulukları ve ilişkili kuruluşlar tarafından oluşturulan filtreleme araçlarının yardımıyla doğrulanır.
LAION, ihtiyatlı davranarak, hem LAION-5B hem de LAION-400M dahil olmak üzere şüpheli veri setlerini kaldırdığını açıkladı. Bu adım, veri setlerinin tekrar kullanıma sunulmadan önce güvenliğini sağlamak için atılmıştır.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.