हानिकारक AI को नियंत्रित करना: सरकार समर्थित प्रणालियों को बढ़ाने और शासन की गणना करने का आह्वान
Summary:
शोधकर्ताओं का सुझाव है कि हानिकारक कृत्रिम बुद्धिमत्ता (एआई) को नियंत्रित करने के लिए शक्तिशाली सरकार समर्थित एआई सिस्टम की निरंतर वृद्धि की आवश्यकता हो सकती है। उनके अध्ययन में महत्वपूर्ण एआई संसाधनों तक पहुंच को नियंत्रित करने की आवश्यकता का प्रस्ताव है, जिससे 'गणना शासन' के कार्यान्वयन की आवश्यकता है। एआई के दुर्भावनापूर्ण उपयोग के प्रभावी प्रतिबंध के लिए हार्डवेयर में 'किल स्विच' को शामिल करने की आवश्यकता हो सकती है, जिससे अवैध संचालन की दूरस्थ समाप्ति को सक्षम किया जा सके। वे विकेंद्रीकृत गणना को नियंत्रित करने में संभावित जटिलताओं के बारे में भी चेतावनी देते हैं। शोधकर्ताओं का सुझाव है कि समाजों को अनियंत्रित गणना प्रणालियों से उभरते जोखिमों का मुकाबला करने के लिए बुद्धिमानी से अधिक शक्तिशाली, शासन योग्य गणना को नियोजित करने की आवश्यकता हो सकती है।
हानिकारक कृत्रिम बुद्धिमत्ता (एआई) का नियंत्रण सरकारी मार्गदर्शन के तहत एआई की निरंतर वृद्धि में निहित हो सकता है। यह निष्कर्ष शोधकर्ताओं के एक समूह ने अपने नवीनतम पेपर में "कंप्यूटिंग पावर फिर आर्टिफिशियल इंटेलिजेंस का शासन" शीर्षक से निकाला है। OpenAI, कैम्ब्रिज, ऑक्सफोर्ड और कई अन्य संस्थानों के बुद्धिजीवियों को शामिल करने वाला अध्ययन, AI के कानून और प्रगति से संबंधित तत्काल और संभावित मुद्दों का पता लगाने का एक प्रयास था।
पेपर का प्रमुख विवाद भविष्य में उन्हें संचालित करने और मॉडल करने के लिए आवश्यक हार्डवेयर को नियंत्रित करके निर्णायक एआई सिस्टम तक पहुंच को नियंत्रित करने की संभावित आवश्यकता पर प्रकाश डालता है। जैसा कि शोधकर्ताओं द्वारा समझाया गया है, नीति निर्माता लाभकारी परिणामों को लागू करने, गैर-जिम्मेदार एआई विकास और उपयोग पर अंकुश लगाने और नियामक दृश्यता प्रदान करने के लिए कंप्यूटिंग शक्ति का लाभ उठा सकते हैं। यहां, "कंप्यूट" एआई विकास के लिए आवश्यक महत्वपूर्ण हार्डवेयर को संदर्भित करता है, जिसमें जीपीयू और सीपीयू शामिल हैं। शोधकर्ता संभावित एआई से संबंधित नुकसान को रोकने के इष्टतम तरीके के रूप में इन स्रोतों तक पहुंच को अलग करने की सलाह देते हैं। इसका तात्पर्य उन्नत एआई विकास के लिए महत्वपूर्ण किसी भी हार्डवेयर के निर्माण, बिक्री और कार्य की देखरेख के लिए सरकारी उपायों से है।
कुछ पहलुओं में, "गणना शासन" पहले से ही विश्व स्तर पर प्रचलित है। उदाहरण के लिए, अमेरिका चीन जैसे देशों को आमतौर पर एआई प्रशिक्षण में उपयोग किए जाने वाले विशिष्ट जीपीयू मॉडल की बिक्री को प्रतिबंधित करता है। शोध के अनुसार, एआई के पुरुषवादी उपयोग को प्रभावी ढंग से प्रतिबंधित करने के लिए निर्माताओं को हार्डवेयर में "किल स्विच" शामिल करने की आवश्यकता होती है। इस तरह के उपाय से सरकारों को अवैध एआई प्रशिक्षण प्रयासों को दूरस्थ रूप से समाप्त करने में मदद मिलेगी। इसके बावजूद, विद्वानों ने चेतावनी दी है कि इस तरह के शासन के उपाय गोपनीयता, आर्थिक निहितार्थ और शक्ति की एकाग्रता से संबंधित अंतर्निहित जोखिमों के साथ आते हैं। उदाहरण के लिए, अमेरिका में हार्डवेयर निगरानी व्हाइट हाउस द्वारा हाल ही में एआई बिल ऑफ राइट्स गाइडलाइन का उल्लंघन कर सकती है जो नागरिकों को डेटा सुरक्षा अधिकारों का आश्वासन देती है।
इन चिंताओं को जोड़ते हुए, शोधकर्ताओं ने यह भी संकेत दिया है कि "संचार-कुशल" प्रशिक्षण में उभरती प्रगति मॉडलिंग, निर्माण और संचालन के लिए विकेंद्रीकृत गणना की ओर बढ़ सकती है। यह प्रवृत्ति अवैध प्रशिक्षण तंत्र की पहचान करने और उसे समाप्त करने के सरकार के कार्य को जटिल बना सकती है। शोधकर्ताओं का सुझाव है कि यह संभावना सरकारों को एआई के गैरकानूनी उपयोग के खिलाफ आक्रामक रणनीति अपनाने के अलावा कोई अन्य विकल्प नहीं छोड़ सकती है। उनके फैसले के अनुसार, "समाज को अनियंत्रित गणना द्वारा उत्पन्न उभरते जोखिमों के खिलाफ बचाव विकसित करने के लिए समय पर और बुद्धिमानी से अधिक शक्तिशाली, शासन योग्य गणना का उपयोग करना होगा।
Published At
2/16/2024 10:12:59 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.