تستخرج OpenAI الدروس الرئيسية من مشروع منحة بقيمة 1 مليون دولار لتعزيز السلوك الذكاء الاصطناعي الديمقراطي
Summary:
استخلصت OpenAI خمس رؤى رئيسية من برنامج المنح الذي تبلغ قيمته 1 مليون دولار والذي يهدف إلى إنشاء عملية ديمقراطية للسلوك الذكاء الاصطناعي ، بناء على مدخلات الجمهور. وتشمل الدروس المستفادة الحاجة إلى عمليات مدخلات متكررة لاستيعاب الآراء المتغيرة، وضمان أن تلتقط العملية الجماعية القيم الأساسية، ومعالجة الفجوة الرقمية، والتعامل مع وجهات النظر المتباينة القوية داخل المجموعات، وتحقيق التوازن بين توافق الآراء مع تمثيل الآراء المختلفة. مع ملاحظة مخاوف الجمهور وأمله في استخدام الذكاء الاصطناعي في السياسة في المستقبل ، تسعى OpenAI إلى تنفيذ التعليقات التي تم جمعها وإنشاء فريق جديد مكرس لدمج الرأي العام في سلوك نماذجهم الذكاء الاصطناعي.
حددت OpenAI خمس نقاط رئيسية من مبادرة المنح التي تبلغ قيمتها 1 مليون دولار والتي سعت إلى الحصول على مدخلات عامة حول تشكيل سلوك الذكاء الاصطناعي يتوافق مع القيم الإنسانية. أعلنت الشركة في مايو 2023 ، عن خطتها لتوزيع ما مجموعه مليون دولار ، مقسمة إلى عشر منح بقيمة 100,000 دولار لكل منها ، لمشاريع تهدف إلى تطوير طريقة ديمقراطية وأولية لتحديد إرشادات أنظمة الذكاء الاصطناعي.
في منشور مدونة بتاريخ 16 يناير ، أوضحت شركة الذكاء الاصطناعي بالتفصيل كيف تم تسهيل الابتكار في التكنولوجيا الديمقراطية من قبل متلقي المنح ، وما علمهم البرنامج ، وكيف يخططون لدمج التكنولوجيا الديمقراطية المطورة حديثا.
وأشار المنشور إلى أن الفرق المختلفة حصدت مشاعر المستخدمين بطرق متنوعة ، مشيرة إلى أن الرأي العام كان عرضة للتغييرات المتكررة ، والتي يمكن أن تملي عدد المرات التي يجب أن تحدث فيها عمليات الجمع هذه. وتمثل أحد التفاهمات الحاسمة في أن العملية الجماعية يجب أن تستوعب القيم الأساسية وأن تكون حساسة لأي تحولات كبيرة في المنظور بمرور الوقت.
وجدت الفرق أن التغلب على الفجوة الرقمية لا يزال يمثل عقبة كبيرة ، والتي يمكن أن تسبب نتائج متحيزة. وكان اكتساب مشاركين يمتدون الفجوة الرقمية مهمة بسبب قيود المنصة والتعقيدات المتعلقة بفهم اللغات أو السياقات المحلية.
ومن المثير للاهتمام أنه لوحظ أنه من الصعب تحقيق توافق في الآراء داخل المجموعات ذات الاختلاف الشديد، لا سيما عندما تكون لأقلية صغيرة آراء راسخة بشأن موضوع معين. كان الكشف من فريق الحوارات الجماعية هو إصرار الأقلية على عدم تقييد مساعدي الذكاء الاصطناعي من الرد على استفسارات معينة في كل جلسة ، مما تسبب في احتكاك مع نتائج تصويت الأغلبية.
وفقا ل OpenAI ، فإن موازنة الاتفاق الموحد مع تضمين وجهات نظر متنوعة مهمة شاقة عندما تكون النتيجة المقصودة فردية. Inclusive.AI أحد الفريقين فحص آليات التصويت ووجد أن الأساليب التي تنقل قوة عاطفية قوية وتمكن من المشاركة المتساوية ينظر إليها على أنها أكثر ديمقراطية وإنصافا.
أما بالنسبة للمخاوف بشأن دور الذكاء الاصطناعي في الحوكمة المستقبلية، فقد ذكر منشور المدونة أن بعض المشاركين أعربوا عن مخاوفهم بشأن استخدام الذكاء الاصطناعي في صياغة السياسات بينما دعوا إلى الشفافية. على الرغم من ذلك ، بعد المناقشات ، لوحظ تفاؤل متزايد بين الجمهور حول قدرتهم على توجيه الذكاء الاصطناعي.
تخطط OpenAI لاستخدام اقتراحات الجمهور وتقوم بإنشاء فريق محاذاة جماعي جديد يتكون من موظفي البحث والهندسة. يتم تكليفهم ببناء نظام لجمع ودمج الآراء العامة حول سلوك نماذجهم في عروض OpenAI.
في أخبار أخرى ، يبلغ المنشور عن "عمليات اختطاف" احتيالية الذكاء الاصطناعي ، وطاه روبوت بقيمة 20 ألف دولار ، ونزاعات الانتحال الذكاء الاصطناعي لأكمان في الذكاء الاصطناعي Eye.
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.