LAION تسحب الذكاء الاصطناعي مجموعات البيانات بعد اكتشاف محتوى استغلال الأطفال
Summary:
تم سحب مجموعات بيانات الذكاء الاصطناعي الشائعة LAION-5B و LAION-400M من LAION ، وهي منظمة ألمانية غير ربحية ، بعد اكتشاف باحثي ستانفورد لمواد استغلال الأطفال المشتبه بها. على الرغم من أن هذا المحتوى لا يؤثر بالضرورة على مخرجات النموذج الذكاء الاصطناعي بشكل كبير ، إلا أنه يمكن أن يكون له تأثير ، خاصة إذا تكرر. تعد LAION بإجراءات صارمة ضد المحتوى غير القانوني وتعمل مع المنظمات للتحقق من سلامة الارتباط وضمانها في مجموعات البيانات الخاصة بها. لضمان سلامة مجموعة البيانات ، أزالت LAION مجموعات البيانات المثيرة للجدل قبل إعادة نشرها.
تم سحب مجموعة بيانات الذكاء الاصطناعي الشائعة المستخدمة بشكل شائع لتثقيف نماذج مثل Stable Diffusion و Imagen من قبل مزودها. يأتي ذلك بعد أن كشف بحث عن وجود العديد من الحالات المشتبه بها لمواد استغلال الأطفال. المنظمة المسؤولة عن مجموعة البيانات هذه ، LAION - الشبكة المفتوحة للذكاء الاصطناعي على نطاق واسع ، هي منظمة غير ربحية من ألمانيا تساهم في نماذج الذكاء الاصطناعي مفتوحة المصدر ومجموعات تدريب لمجموعة من تطبيقات تحويل النص إلى صورة.
نشر باحثون من مركز السياسة الإلكترونية التابع لمرصد ستانفورد للإنترنت تقريرا في 20 ديسمبر يفيد بأنهم اكتشفوا 3,226 حالة من مواد استغلال الأطفال المشتبه بها ضمن مجموعة بيانات LAION-5B. وفقا لديفيد ثيل ، مهندس البيانات الضخمة وكبير التقنيين في مركز السياسة السيبرانية ، فقد تحققت أطراف ثالثة من جزء كبير من هذه المواد. وذكر ثيل أيضا أن وجود مثل هذا المحتوى لا يعني بالضرورة أنه سيعدل بشكل جذري نتائج النماذج المدربة على مجموعة البيانات. ومع ذلك ، يمكن أن تمارس بعض التأثير. وأضاف أن تكرار مواد الاستغلال المتطابقة يمكن أن يكون مشكلة خاصة بسبب تعزيزها لصور الضحايا المتميزين.
قدمت LAION مجموعة بيانات LAION-5B في مارس 2022 ، والتي تضم 5.85 مليار زوج من الصور والنصوص. تحافظ المنظمة على سياسة صارمة ضد المحتوى غير القانوني وتتعاون مع كيانات مثل Internet Watch Foundation وغيرها لفحص وتأكيد سلامة الارتباطات التشعبية في مجموعات بيانات LAION. يتم التحقق من صحة هذه الروابط بمساعدة أدوات التصفية التي أنشأها مجتمعها والمنظمات المرتبطة بها.
أعلنت LAION ، التي تشير إلى الحذر ، أنها أزالت مجموعات البيانات المشكوك فيها ، بما في ذلك كل من LAION-5B و LAION-400M. تم اتخاذ هذه الخطوة من أجل ضمان سلامة مجموعات البيانات قبل إتاحتها للاستخدام مرة أخرى.
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.