OpenAI تطلق مبادرة "الاستعداد" لمعالجة المخاطر المتعلقة الذكاء الاصطناعي والتخفيف من التهديدات المحتملة
Summary:
تطلق OpenAI مبادرة تسمى "الاستعداد" لتقييم وتخفيف المخاطر واسعة النطاق المرتبطة الذكاء الاصطناعي. ستركز المبادرة على التهديدات الذكاء الاصطناعي المحتملة بما في ذلك التهديدات الكيميائية والبيولوجية والإشعاعية والنووية والإقناع الفردي والأمن السيبراني والتكرار المستقل. بقيادة ألكسندر مادري ، سيبحث الفريق في مخاطر إساءة استخدام أنظمة الذكاء الاصطناعي الحدودية. أطلقت OpenAI أيضا تحدي التأهب الذكاء الاصطناعي لمنع سوء الاستخدام الكارثي ، مع منح 25000 دولار من أرصدة API لأفضل التقديمات.
تطلق OpenAI ، الشركة المسؤولة عن تطوير التكنولوجيا الذكاء الاصطناعي مثل ChatGPT ، مشروعا يهدف إلى تقييم مختلف المخاطر المحتملة المرتبطة الذكاء الاصطناعي. تم الكشف عن OpenAI في 25 أكتوبر ، وهو الآن هيكلة فريق فريد سيكون تركيزه الرئيسي على دراسة وتوقع وتخفيف المخاطر الساحقة المحتملة التي قد تنشأ عن استخدام تقنية الذكاء الاصطناعي. سيولي هذا الفريق ، المسمى "الاستعداد" ، اهتماما وثيقا للمخاطر الذكاء الاصطناعي المحتملة بما في ذلك التهديدات الكيميائية والبيولوجية والإشعاعية والنووية ، والإقناع الفردي ، والأمن السيبراني ، والتكرار التلقائي والتكيف.
تم تكليف الفريق ، بقيادة ألكسندر مادري ، بفهم الأسئلة الحرجة مثل مستوى الخطر الذي يمكن أن يشكله نظام الذكاء الاصطناعي المتقدم عند استخدامه بشكل غير صحيح أو إذا كان ، في حالة السرقة ، يمكن نشره بواسطة عناصر ضارة. "نماذج الذكاء الاصطناعي الحدودية" ، شارك OpenAI ، "لديها القدرة على أن تكون مفيدة للبشرية العالمية." وبالمثل ، أكدوا أن هذه النماذج الذكاء الاصطناعي يمكن أن تشكل أيضا "مخاطر شديدة بشكل متزايد".
وفي معرض شرحه لآراء الشركة، قال OpenAI: "نحن نقر ونولي اهتماما جادا لجميع أشكال مخاطر السلامة المرتبطة الذكاء الاصطناعي، من أنظمة اليوم إلى أقصى درجات الذكاء الخارق ... ولضمان سلامة أنظمة الذكاء الاصطناعي عالية القدرة، نعمل على تحسين نهجنا للتعامل مع التأهب للمخاطر الكارثية".
بالإضافة إلى إنشاء القسم الجديد ، تطلق OpenAI تحديا يستهدف منع إساءة الاستخدام الكارثي الذكاء الاصطناعي ، واعدة بمبلغ 25000 دولار من أرصدة واجهة برمجة التطبيقات لأفضل 10 عمليات إرسال. كما أعلنت الشركة أنها تبحث عن مواهب من خلفيات تقنية متنوعة لتصبح جزءا من فريق الاستعداد.
ألمحت OpenAI في وقت سابق إلى إنشاء فريق يركز على معالجة مخاطر الذكاء الاصطناعي المحتملة في يوليو 2023. تقليديا ، غالبا ما يشار إلى المخاطر المحتملة المرتبطة بالذكاء الاصطناعي ، مما يثير مخاوف من أن أنظمة الذكاء الاصطناعي هذه يمكن أن تتجاوز يوما ما الذكاء البشري. على الرغم من هذه المخاوف ، سعت شركات مثل OpenAI بنشاط إلى تطوير تقنيات الذكاء الاصطناعي الجديدة ، مما أثار عن غير قصد المزيد من الشكوك والقلق.
في تطور مماثل ، نشر مركز السلامة الذكاء الاصطناعي ، وهو منظمة غير ربحية ، في مايو 2023 ، رسالة مفتوحة تؤكد على الذكاء الاصطناعي المخاطر. ويعتقد المركز أنه ينبغي معالجة المخاطر التي تشكلها الذكاء الاصطناعي بجدية على نطاق عالمي، إلى جانب المخاطر الأخرى على نطاق المجتمع، مثل الأوبئة والحرب النووية.
Published At
10/27/2023 10:03:56 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.