ओपनएआई ने संभावित एआई आपदाओं का मुकाबला करने के लिए 'तैयारी' टीम पेश की
Summary:
एआई अनुसंधान और विकास कंपनी ओपनएआई ने संभावित एआई खतरों पर ध्यान केंद्रित करते हुए अपनी नई पहल, 'तैयारी' की घोषणा की है। अलेक्जेंडर मैड्री के नेतृत्व में यह टीम एआई से उत्पन्न होने वाले संभावित विनाशकारी जोखिमों की निगरानी, आकलन, अनुमान और कम से कम करेगी। फोकस के प्राथमिक क्षेत्र रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु खतरे, व्यक्तिगत अनुनय, साइबर सुरक्षा और स्वायत्त प्रतिकृति अनुकूलन होंगे। इसके साथ-साथ, ओपनएआई ने एक एआई तैयारी चुनौती शुरू की है, जो शीर्ष सबमिशन को एपीआई क्रेडिट में $ 25,000 प्रदान करती है। फर्म नई टीम में शामिल होने के लिए विभिन्न तकनीकी विषयों के उम्मीदवारों को भी आमंत्रित कर रही है।
ChatGPT सहित AI प्रौद्योगिकी के विकास और अनुसंधान के लिए जिम्मेदार संगठन OpenAI, AI से जुड़े खतरों की एक विस्तृत श्रृंखला की पहचान करने और संबोधित करने के लिए एक नई रणनीतिक योजना शुरू कर रहा है। संगठन ने 25 अक्टूबर को खुलासा किया कि यह एआई प्रौद्योगिकी के उपयोग से उत्पन्न संभावित विनाशकारी खतरों की पहचान, आकलन, सक्रिय रूप से पूर्वानुमान और ढाल के लिए एक विशेष टीम विकसित कर रहा है। "तैयारी" इकाई नामक, ओपनएआई का यह केंद्रित प्रभाग मुख्य रूप से व्यक्तिगत अनुनय, साइबर सुरक्षा और स्वायत्त प्रतिकृति और विकास के साथ-साथ रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु नुकसान से जुड़े संभावित एआई जोखिमों पर ध्यान केंद्रित करेगा। अलेक्जेंडर मैड्री के नेतृत्व में, तैयारी दल यह निर्धारित करने का प्रयास करेगा कि दुरुपयोग होने पर फ्रंटियर एआई सिस्टम किस हद तक खतरे की सीमा पेश कर सकता है और क्या इन प्रणालियों को उन दुष्ट व्यक्तियों द्वारा प्रभावी ढंग से संचालित किया जा सकता है जिन्होंने चोरी किए गए एआई मॉडल वजन हासिल किए हैं। ओपनएआई ने कहा, "फ्रंटियर एआई मॉडल, वर्तमान में मौजूद सबसे परिष्कृत मॉडल की क्षमताओं को पार करने की क्षमता के साथ, मानवता को बहुत अधिक लाभ पहुंचाने का वादा करते हैं। फिर भी, कंपनी ने इन मॉडलों के लगातार बढ़ते जोखिमों को भी स्वीकार किया। कंपनी ने आगे विस्तार से बताया, "हम एआई से संबंधित हर सुरक्षा जोखिम को गंभीरता से लेते हैं, वर्तमान प्रणालियों से लेकर सुपरइंटेलिजेंस की कल्पनीय चोटियों तक। परिष्कृत एआई प्रणालियों की सुरक्षा सुनिश्चित करने के लिए, हम विनाशकारी जोखिमों के खिलाफ तैयारी के लिए अपनी रणनीति को बेहतर बना रहे हैं। ओपनएआई ने अपने ब्लॉग पोस्ट में बताया कि वे वर्तमान में तैयारी टीम में शामिल होने के लिए विभिन्न तकनीकी पृष्ठभूमि से कुशल व्यक्तियों की तलाश में हैं। इसके अतिरिक्त, उन्होंने विनाशकारी दुरुपयोग को रोकने के लिए पहल को प्रोत्साहित करने के लिए एआई तैयारी चुनौती शुरू की, जिसमें शीर्ष 10 प्रविष्टियों को एपीआई क्रेडिट में $ 25,000 प्राप्त हुए। यह उल्लेखनीय है कि कंपनी ने जुलाई 2023 में संभावित एआई जोखिमों को संबोधित करने वाली एक टीम स्थापित करने की योजना का खुलासा किया था। एआई प्रौद्योगिकी से संबंधित खतरों पर बार-बार जोर दिया गया है, साथ ही चिंताओं के साथ कि एआई संभावित रूप से मानव बुद्धि को पार कर सकता है। इन जोखिमों से अवगत होने के बावजूद, ओपनएआई जैसी फर्मों ने एआई तकनीक को सक्रिय रूप से प्रगति करना जारी रखा है, जिससे आगे की आशंकाओं को बढ़ावा मिलता है। मई 2023 में, गैर-लाभकारी संगठन, सेंटर फॉर एआई सेफ्टी ने एआई जोखिम पर जोर देते हुए एक सार्वजनिक पत्र जारी किया, जिसमें महामारी और परमाणु युद्ध जैसे अन्य बड़े पैमाने पर खतरों के साथ-साथ एआई से मानव विलुप्त होने के जोखिम को कम करने के लिए सामूहिक कार्रवाई का आग्रह किया गया।
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.