تقدم OpenAI فريق "الاستعداد" لمواجهة الكوارث الذكاء الاصطناعي المحتملة
Summary:
أعلنت OpenAI ، شركة البحث والتطوير الذكاء الاصطناعي ، عن مبادرتها الجديدة ، "الاستعداد" ، والتي تركز على التهديدات الذكاء الاصطناعي المحتملة. سيقوم هذا الفريق ، بقيادة ألكسندر مادري ، بمراقبة وتقييم وتوقع وتقليل المخاطر الكارثية المحتملة الناشئة عن الذكاء الاصطناعي. وستكون مجالات التركيز الرئيسية هي التهديدات الكيميائية والبيولوجية والإشعاعية والنووية، والإقناع الفردي، والأمن السيبراني، والتكيف المستقل مع النسخ المتماثل. إلى جانب ذلك ، أطلقت OpenAI تحدي التأهب الذكاء الاصطناعي ، حيث قدمت 25000 دولار من أرصدة واجهة برمجة التطبيقات لأفضل عمليات الإرسال. كما تطلب الشركة مرشحين من مختلف التخصصات الفنية للانضمام إلى الفريق الجديد.
تبدأ OpenAI ، المنظمة المسؤولة عن تطوير وأبحاث تكنولوجيا الذكاء الاصطناعي ، بما في ذلك ChatGPT ، خطة استراتيجية جديدة لتحديد ومعالجة مجموعة واسعة من المخاطر المرتبطة الذكاء الاصطناعي. كشفت المنظمة في 25 أكتوبر أنها تقوم بتطوير فريق متخصص لتحديد وتقييم والتنبؤ بشكل استباقي والحماية من المخاطر الكارثية المحتملة الناتجة عن تطبيق التكنولوجيا الذكاء الاصطناعي. سيركز هذا القسم المركز من OpenAI ، الذي أطلق عليه اسم وحدة "الاستعداد" ، بشكل أساسي على مخاطر الذكاء الاصطناعي المحتملة المرتبطة بالأضرار الكيميائية والبيولوجية والإشعاعية والنووية ، إلى جانب الإقناع الشخصي والأمن السيبراني والتكرار والتطور المستقل. بقيادة ألكسندر مادري ، سيسعى طاقم التأهب إلى تحديد مدى الخطر الذي يمكن أن تمثله أنظمة الذكاء الاصطناعي الحدودية عند إساءة استخدامها وما إذا كان يمكن استخدام هذه الأنظمة بشكل فعال من قبل الأفراد الحاقدين الذين حصلوا على أوزان الذكاء الاصطناعي مسروقة. صرحت OpenAI ، "نماذج Frontier الذكاء الاصطناعي ، مع قدرتها على تجاوز قدرات النماذج الأكثر تطورا الموجودة حاليا ، تقدم وعدا بإفادة البشرية بشكل كبير." ومع ذلك ، اعترفت الشركة أيضا بالمخاطر المتزايدة باستمرار التي تمثلها هذه النماذج. وأوضحت الشركة كذلك ، "نحن نأخذ كل مخاطر السلامة المتعلقة الذكاء الاصطناعي على محمل الجد ، من الأنظمة الحالية إلى القمم التي يمكن تصورها للذكاء الفائق. ولضمان سلامة أنظمة الذكاء الاصطناعي المتطورة، نعمل على شحذ استراتيجيتنا للاستعداد ضد المخاطر الكارثية". أوضح OpenAI في منشور المدونة الخاص بهم أنهم يبحثون حاليا عن أفراد مهرة من خلفيات تقنية متنوعة للانضمام إلى فريق الاستعداد. بالإضافة إلى ذلك ، بدأوا تحدي التأهب الذكاء الاصطناعي لتشجيع المبادرات لمنع سوء الاستخدام الكارثي ، حيث تلقت أفضل 10 إدخالات 25000 دولار في أرصدة API. من الجدير بالذكر أن الشركة قد كشفت عن خطط لإنشاء فريق يعالج مخاطر الذكاء الاصطناعي المحتملة في يوليو 2023. كان هناك تركيز متكرر على المخاطر المتعلقة بتكنولوجيا الذكاء الاصطناعي ، إلى جانب المخاوف من أن الذكاء الاصطناعي يمكن أن يتجاوز العقل البشري. على الرغم من إدراكها لهذه المخاطر ، استمرت شركات مثل OpenAI في التقدم بنشاط الذكاء الاصطناعي التكنولوجيا ، مما أدى إلى تأجيج المزيد من المخاوف. في مايو 2023 ، أصدرت المنظمة غير الربحية ، مركز السلامة الذكاء الاصطناعي ، رسالة عامة تؤكد على الذكاء الاصطناعي المخاطر ، وتحث على العمل الجماعي للحد من خطر انقراض الإنسان من الذكاء الاصطناعي ، إلى جانب التهديدات الأخرى واسعة النطاق مثل الأوبئة والحرب النووية.
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.