ओपनएआई डेमोक्रेटिक एआई व्यवहार को बढ़ावा देने वाली $ 1 एम ग्रांट प्रोजेक्ट से महत्वपूर्ण सबक निकालता है
Summary:
ओपनएआई ने सार्वजनिक इनपुट के आधार पर एआई व्यवहार के लिए एक लोकतांत्रिक प्रक्रिया स्थापित करने के उद्देश्य से अपने $ 1 मिलियन अनुदान कार्यक्रम से पांच प्रमुख अंतर्दृष्टि प्राप्त की हैं। सबक में बदलते विचारों को समायोजित करने के लिए लगातार इनपुट प्रक्रियाओं की आवश्यकता शामिल है, यह सुनिश्चित करना कि एक सामूहिक प्रक्रिया मुख्य मूल्यों को पकड़ती है, डिजिटल विभाजन को संबोधित करती है, समूहों के भीतर मजबूत भिन्न विचारों को संभालती है, और अलग-अलग विचारों का प्रतिनिधित्व करते हुए आम सहमति को संतुलित करती है। नीति में एआई के भविष्य के उपयोग के लिए जनता की आशंकाओं और आशा को ध्यान में रखते हुए, ओपनएआई एकत्रित प्रतिक्रिया को लागू करना चाहता है और एक नई टीम स्थापित कर रहा है, जो अपने एआई मॉडल के व्यवहार में जनता की राय को शामिल करने के लिए समर्पित है।
ओपनएआई ने अपनी 1 मिलियन डॉलर की अनुदान पहल से पांच प्रमुख टेकअवे की पहचान की है, जिसमें मानव मूल्यों के साथ संरेखित एआई व्यवहार को आकार देने पर सार्वजनिक इनपुट मांगा गया है। कंपनी ने मई 2023 में वापस घोषणा की, एआई सिस्टम के दिशानिर्देशों को तय करने की लोकतांत्रिक और प्रारंभिक विधि विकसित करने के उद्देश्य से परियोजनाओं के लिए कुल $ 1 मिलियन को फैलाने की अपनी योजना, प्रत्येक $ 100,000 के दस अनुदानों में टूट गई।
16 जनवरी के एक ब्लॉग पोस्ट में, एआई फर्म ने विस्तार से बताया कि अनुदान रिसीवरों द्वारा लोकतांत्रिक प्रौद्योगिकी में नवाचार की सुविधा कैसे दी गई थी, कार्यक्रम ने उन्हें क्या सिखाया था, और वे नई विकसित लोकतांत्रिक तकनीक को कैसे शामिल करने की योजना बना रहे हैं।
पोस्ट में कहा गया है कि विभिन्न टीमों ने विभिन्न तरीकों से उपयोगकर्ता भावनाओं को इकट्ठा किया, जिसमें कहा गया कि जनता की राय लगातार परिवर्तनों से ग्रस्त थी, जो यह तय कर सकती है कि इन संग्रह प्रक्रियाओं को कितनी बार होने की आवश्यकता है। एक महत्वपूर्ण समझ यह थी कि सामूहिक प्रक्रिया को मूल मूल्यों को पकड़ना चाहिए और समय के साथ परिप्रेक्ष्य में किसी भी महत्वपूर्ण बदलाव के प्रति संवेदनशील होना चाहिए।
टीमों ने पाया कि डिजिटल विभाजन पर काबू पाना एक महत्वपूर्ण बाधा बनी हुई है, जो पक्षपाती परिणामों का कारण बन सकती है। डिजिटल विभाजन को फैलाने वाले प्रतिभागियों को प्राप्त करना मंच की बाधाओं और स्थानीय भाषाओं या संदर्भों को समझने से संबंधित जटिलताओं के कारण एक कार्य था।
दिलचस्प बात यह है कि यह देखा गया कि मजबूत विचलन वाले समूहों के भीतर आम सहमति हासिल करना मुश्किल था, खासकर जब एक छोटे से अल्पसंख्यक ने किसी विशिष्ट विषय पर गहन विचार रखे। कलेक्टिव डायलॉग्स टीम के एक रहस्योद्घाटन में एआई सहायकों को प्रति सत्र कुछ प्रश्नों का जवाब देने से सीमित नहीं करने पर अड़े हुए थे, जिससे बहुमत के वोट परिणामों के साथ घर्षण पैदा हुआ।
ओपनएआई के अनुसार, विभिन्न दृष्टिकोणों को शामिल करते हुए एक समान समझौते को संतुलित करना एक कठिन काम है जब इच्छित परिणाम विलक्षण होता है। Inclusive.AI टीमों में से एक ने मतदान तंत्र की जांच की और पाया कि मजबूत भावनात्मक शक्ति को व्यक्त करने और समान भागीदारी को सक्षम करने के तरीकों को अधिक लोकतांत्रिक और न्यायसंगत माना जाता था।
भविष्य के शासन में एआई की भूमिका के बारे में चिंताओं के बारे में, ब्लॉग पोस्ट में उल्लेख किया गया है कि कुछ प्रतिभागियों ने पारदर्शिता का आह्वान करते हुए नीति मसौदा तैयार करने में एआई के उपयोग के बारे में आशंका व्यक्त की। इसके बावजूद, चर्चाओं के बाद, एआई का मार्गदर्शन करने की उनकी क्षमता के बारे में जनता के बीच एक बढ़ी हुई आशावाद देखा गया।
ओपनएआई जनता के सुझावों का उपयोग करने की योजना बना रहा है और अनुसंधान और इंजीनियरिंग कर्मियों से युक्त एक नई सामूहिक संरेखण टीम स्थापित कर रहा है। उन्हें ओपनएआई की पेशकशों में अपने मॉडल के व्यवहार पर सार्वजनिक राय इकट्ठा करने और एकीकृत करने के लिए एक प्रणाली का निर्माण करने के लिए सौंपा गया है।
अन्य समाचारों में, प्रकाशन एआई आई में धोखाधड़ी वाले एआई 'अपहरण', $ 20 के रोबोट शेफ और एकमैन के एआई साहित्यिक चोरी विवादों पर रिपोर्ट करता है।
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.