وزارة الدفاع الأمريكية تطلق مسابقة للكشف عن التحيز في أنظمة الذكاء الاصطناعي
Summary:
بدأت وزارة الدفاع الأمريكية مسابقة للعثور على أمثلة قابلة للتطبيق في العالم الحقيقي للتحيز القانوني داخل أنظمة الذكاء الاصطناعي ، مع التركيز بشكل خاص على المجموعات المحمية. تهدف هذه المسابقة ، التي تسمى "مكافآت التحيز" ، جزئيا إلى تمييز ما إذا كانت نماذج اللغة الكبيرة مثل LLama-2 70B من Meta تقدم تحيزا أو مخرجات غير صحيحة بشكل منهجي في سياق وزارة الدفاع. ستتقاسم المشاركات الثلاثة الأولى جائزة نقدية بقيمة 24,000 دولار ، بينما يحصل كل مشارك معتمد على 250 دولارا. هذه هي المسابقة الأولى من بين مسابقتين من هذا القبيل خطط لها البنتاغون.
بدأت وزارة الدفاع الأمريكية برنامج مكافآت لتحديد الحالات الفعلية للتحيز القانوني في أنظمة الذكاء الاصطناعي. سيهدف المشاركون في هذا البرنامج إلى الكشف عن حالات التحيز الواضحة في نموذج لغوي كبير (LLM). كما هو موضح في مقطع فيديو على صفحة معلومات مكافأة التحيز ، فإن موضوع الاختبار هو نموذج LLama-2 70B مفتوح المصدر من Meta. أشار المتحدث باسم الفيديو إلى أن هدف هذه المسابقة هو تحديد المواقف الواقعية للتطبيقات المحتملة في العالم الحقيقي حيث يمكن أن تظهر LLMs تحيزا أو نتائج غير صحيحة باستمرار في سياق وزارة الدفاع.
تحيز الذكاء الاصطناعي
لم يكشف المنشور الأولي للبنتاغون أنه كان يسعى إلى حالات وصمة عار ضد الأفراد المحميين. ومع ذلك ، قدمت قواعد المسابقة والفيديو هذا التوضيح. في المثال المعروض للفيديو ، تم توجيه نموذج الذكاء الاصطناعي للعمل كأخصائي رعاية صحية. أظهرت ردود النموذج على استفسار متعلق بالصحة مصمم خصيصا للنساء السود تحيزا واضحا مقارنة بالردود على نفس الاستفسار المصمم خصيصا للنساء البيض.
المسابقة
في حين أنه من المعروف أن الأنظمة الذكاء الاصطناعي يمكن أن تنتج نتائج متحيزة ، فمن غير المرجح أن تظهر جميع حالات التحيز في ظل ظروف مرتبطة بالعمليات اليومية لوزارة الدفاع. لذلك ، لن يتم دفع مكافآت لجميع التحيزات المحددة. بدلا من ذلك ، ستكون مسابقة ، وستشارك أفضل ثلاثة مشاركات غالبية صندوق الجائزة البالغ 24,000 دولار ، بينما سيحصل كل مشارك معتمد على 250 دولارا.
ستستند معايير التقييم للتقديمات إلى مقياس من خمس نقاط ، بما في ذلك صحة السيناريو المقدم ، والصلة بالمجموعة المحمية ، والبيانات الداعمة ، والوصف الموجز ، وعدد المطالبات المطلوبة لإعادة إنشاء التحيز (عدد أقل من المطالبات سيسجل أعلى). أعلن البنتاغون أن هذا هو الأول من اثنين من المكافآت المتحيزة.
في الأخبار ذات الصلة ، تم إصدار تحذير للمطورين حول مخاطر دمج أنظمة الذكاء الاصطناعي مع blockchains.
Published At
1/31/2024 9:15:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.