माइक्रोसॉफ्ट के एआई चैटबॉट कोपायलट को भ्रामक राजनीतिक जानकारी फैलाने में फंसाया गया
Summary:
यूरोपीय गैर-लाभकारी संगठन एआई फोरेंसिक और एल्गोरिथ्मवॉच की एक रिपोर्ट से पता चलता है कि माइक्रोसॉफ्ट का एआई चैटबॉट, कोपायलट, गलत तरीके से चुनावी जानकारी प्रसारित करता है और गलत तरीके से उद्धृत करता है। बॉट ने एक अध्ययन में 30% बुनियादी राजनीतिक चुनाव प्रश्नों का गलत जवाब दिया, संभवतः गलत सूचना का कारण बना। अशुद्धियाँ कोपायलट तक सीमित नहीं हैं; प्रारंभिक परीक्षणों में चैट-जीपीटी 4 में इसी तरह के निष्कर्ष सामने आए। हालांकि ये अभी तक परिणामों को प्रभावित नहीं करते हैं, वे सार्वजनिक समझ और विश्वास को प्रभावित कर सकते हैं। एआई के सुरक्षा उपाय भी लगातार सवालों से बचते हैं। माइक्रोसॉफ्ट का लक्ष्य 2024 के अमेरिकी चुनावों से पहले मुद्दों को हल करना है।
यूरोप में स्थित दो गैर-लाभकारी समूहों द्वारा किए गए शोध से पता चलता है कि माइक्रोसॉफ्ट का रीब्रांडेड एआई चैटबॉट, कोपायलट, जिसे पहले बिंग के नाम से जाना जाता था, चुनावी जानकारी पर गलत निष्कर्ष उत्पन्न करता है और गलत तरीके से इसके स्रोतों का हवाला देता है। एआई फोरेंसिक और एल्गोरिथ्मवॉच ने 15 दिसंबर को अध्ययन जारी किया, जो दर्शाता है कि जर्मनी और स्विट्जरलैंड में राजनीतिक चुनावों पर अल्पविकसित सवालों के लिए बिंग के एआई चैटबॉट की 30% प्रतिक्रियाएं गलत थीं। प्रतिक्रियाओं में ये त्रुटियां विभिन्न विषयों जैसे उम्मीदवारों, जनमत सर्वेक्षण, विवादों और मतदान प्रक्रियाओं को छूती हैं। अमेरिका के 2024 के राष्ट्रपति चुनावों के बारे में सवालों को भी त्रुटिपूर्ण प्रतिक्रियाएं मिलीं।
शोधकर्ताओं ने अपने अध्ययन के लिए बिंग के एआई चैटबॉट को चुना क्योंकि यह अपनी प्रतिक्रियाओं के भीतर स्रोतों को एम्बेड करने के लिए अग्रणी एआई चैटबॉट्स में से एक था, यह कहते हुए कि ये अशुद्धियां बिंग के लिए अनन्य नहीं थीं। उन्होंने बताया कि चैट-जीपीटी4 पर प्रारंभिक परीक्षणों में भी विसंगतियां सामने आईं।
धर्मार्थ संगठनों ने जोर देकर कहा कि गलत जानकारी ने अभी तक चुनावों के परिणामों को प्रभावित नहीं किया है, लेकिन संभावित रूप से सार्वजनिक गलतफहमी और गलत सूचना पैदा कर सकता है। बयान में चेतावनी दी गई है, "जनरेटिव एआई के बढ़ते प्रसार से लोकतंत्र के एक मौलिक स्तंभ को खतरा हो सकता है: विश्वसनीय और पारदर्शी सार्वजनिक जानकारी का प्रावधान। शोध में यह भी पाया गया कि एआई चैटबॉट में अंतर्निहित सुरक्षा उपाय समान रूप से प्रभावी नहीं थे, जिससे यह 40% समय सवालों से बचने के लिए प्रेरित हुआ।
रिपोर्ट पर वॉल स्ट्रीट जर्नल के एक टुकड़े के जवाब में, माइक्रोसॉफ्ट ने संयुक्त राज्य अमेरिका 2024 के चुनावों से पहले मुद्दों को सुधारने का वादा किया। माइक्रोसॉफ्ट के एक प्रवक्ता ने उपयोगकर्ताओं को हर समय एआई चैटबॉट से प्राप्त जानकारी की सटीकता सुनिश्चित करने की सलाह दी।
इस साल अक्टूबर में, अमेरिकी सीनेटरों ने एक विधेयक पेश किया था जो वास्तविक व्यक्तियों के अनधिकृत कृत्रिम डुप्लिकेट बनाने वालों को दंडित करेगा - जीवित या मृत। मेटा, फेसबुक और इंस्टाग्राम की मूल कंपनी ने नवंबर में एक निर्देश जारी किया था जो भविष्य के चुनावों के खिलाफ सुरक्षा के रूप में राजनीतिक विज्ञापनदाताओं द्वारा विज्ञापन निर्माण के लिए जनरेटिव एआई टूल के उपयोग पर प्रतिबंध लगाता है।
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.