OpenAI वेटरन्स और Y कॉम्बिनेटर पार्टनर ने AI सुरक्षा बढ़ाने के लिए 'सेफ सुपरइंटेलिजेंस, इंक' लॉन्च किया
Summary:
OpenAI के पूर्व मुख्य वैज्ञानिक इल्या सत्स्केवर और एक पूर्व-OpenAI इंजीनियर डैनियल लेवी ने Safe Superintelligence, Inc. (SSI) लॉन्च करने के लिए स्टार्टअप एक्सेलेरेटर Y Combinator के पूर्व पार्टनर डैनियल ग्रॉस के साथ सहयोग किया है। अमेरिका स्थित कंपनी का उद्देश्य कृत्रिम बुद्धिमत्ता (एआई) सुरक्षा और क्षमताओं को बढ़ाना है। एआई सुरक्षा के बारे में चिंताओं के साथ, पूर्व ओपनएआई कर्मचारियों और एथेरियम के सह-संस्थापक विटालिक ब्यूटिरिन, टेस्ला के सीईओ एलोन मस्क और ऐप्पल के सह-संस्थापक स्टीव वोज्नियाक सहित प्रमुख तकनीकी आंकड़ों ने संभावित जोखिमों पर विचार करने के लिए एआई प्रशिक्षण में विराम का आह्वान किया है।
OpenAI के पूर्व मुख्य वैज्ञानिक और सह-संस्थापक इल्या सत्सुस्केवर ने पूर्व OpenAI इंजीनियर डैनियल लेवी के साथ, Safe Superintelligence, Inc. (SSI) लॉन्च करने के लिए स्टार्टअप एक्सेलेरेटर Y Combinator के पिछले पार्टनर डैनियल ग्रॉस के साथ मिलकर काम किया है। इस नए उद्यम का फोकस और उत्पाद इसके शीर्षक में परिलक्षित होता है। संयुक्त राज्य अमेरिका में पालो ऑल्टो और तेल अवीव में उपस्थिति के साथ एसएसआई का उद्देश्य सुरक्षा उपायों और क्षमताओं को विकसित करके कृत्रिम बुद्धिमत्ता (एआई) को आगे बढ़ाना है, जैसा कि 19 जून को संस्थापक तिकड़ी द्वारा ऑनलाइन घोषित किया गया था। उन्होंने प्रबंधन मामलों या उत्पाद चक्रों के कारण होने वाले विकर्षणों से बचने पर अपने अद्वितीय ध्यान पर जोर दिया, एक व्यवसाय मॉडल के साथ जो सुरक्षा, सुरक्षा और प्रगति सुनिश्चित करता है जो अल्पकालिक वाणिज्यिक प्रभावों से परिरक्षित है।
14 मई को OpenAI छोड़ने से पहले, Sutskever, Gross के साथ मिलकर, AI सुरक्षा के बारे में चिंताओं को साझा किया। सीईओ सैम ऑल्टमैन की बहाली के बाद अपने बोर्ड को छोड़ने के बाद सटस्केवर ने फर्म में एक अस्पष्ट भूमिका निभाई। डैनियल लेवी उन शोधकर्ताओं में से थे, जो सटस्केवर के तुरंत बाद ओपनएआई से चले गए थे। Sutskever और Jan Leike ने जुलाई 2023 में गठित OpenAI की सुपरअलाइनमेंट टीम का नेतृत्व किया, यह जांचने के लिए कि AI सिस्टम को हमसे अधिक बुद्धिमान कैसे निर्देशित और नियंत्रित किया जाए, जिसे आर्टिफिशियल जनरल इंटेलिजेंस (AGI) कहा जाता है। अपनी स्थापना के दौरान, OpenAI ने अपनी कम्प्यूटेशनल क्षमता का 20% इस टीम को सौंपा।
हालांकि, लीके ने भी मई में संगठन छोड़ दिया और अब अमेज़ॅन द्वारा समर्थित एआई स्टार्टअप एंथ्रोपिक में एक टीम का नेतृत्व करता है। कंपनी ने कंपनी के अध्यक्ष ग्रेग ब्रॉकमैन के एक विस्तृत एक्स पोस्ट में अपनी सुरक्षा सावधानियों का तर्क दिया, लेकिन मई में अपने शोधकर्ताओं के जाने के बाद सुपरएलाइनमेंट टीम को भंग कर दिया।
पूर्व-OpenAI जांचकर्ता AI के भविष्य के पाठ्यक्रम के बारे में आशंका व्यक्त करने वाले अकेले नहीं हैं। OpenAI में कर्मचारियों के फेरबदल के बीच, Ethereum के सह-संस्थापक विटालिक ब्यूटिरिन ने AGI को "जोखिम भरा" कहा। हालांकि, उन्होंने यह भी साझा किया कि ऐसे मॉडल कॉर्पोरेट लालच और सशस्त्र बलों की तुलना में "कयामत जोखिम" से काफी कम हैं।
पूर्व-OpenAI समर्थक, टेस्ला के सीईओ एलोन मस्क और Apple के सह-संस्थापक स्टीव वोज्नियाक 2,600 से अधिक तकनीकी विशेषज्ञों और शोधकर्ताओं के साथ शामिल हो गए, जिन्होंने AI सिस्टम प्रशिक्षण पर छह महीने के ठहराव का अनुरोध किया ताकि यह "गहरा जोखिम" को प्रतिबिंबित कर सके।
एसएसआई की लॉन्च घोषणा में यह भी उल्लेख किया गया है कि कंपनी शोधकर्ताओं और इंजीनियरों की भर्ती करना चाहती है।
Published At
6/20/2024 12:45:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.