कठफोड़वा: टेनसेंट और यूएसटीसी वैज्ञानिकों द्वारा विकसित एआई 'मतिभ्रम' का मुकाबला करने के लिए एक नया उपकरण
Summary:
टेनसेंट के यूटू लैब और चीन के विज्ञान और प्रौद्योगिकी विश्वविद्यालय के वैज्ञानिकों ने कृत्रिम बुद्धिमत्ता (एआई) "मतिभ्रम" को संबोधित करने के लिए "वुडपेकर" नामक एक उपकरण विकसित किया है, जो संदर्भित करता है जब एआई मॉडल प्रशिक्षण डेटा में आधारित नहीं होने वाले उच्च आत्मविश्वास आउटपुट का उत्पादन करते हैं। विशेष रूप से मल्टी-मोडल बड़ी भाषा मॉडल (एमएलएलएम) के लिए डिज़ाइन किया गया, वुडपेकर एक ऐसी विधि को नियोजित करता है जो पारदर्शिता और सटीकता में सुधार करता है। इसे अन्य एमएलएलएम में मूल रूप से एकीकृत किया जा सकता है, एक समाधान प्रदान करता है जो विभिन्न एआई सिस्टम आर्किटेक्चर के अनुकूल हो सकता है।
टेनसेंट के यूटू लैब और चीन के विज्ञान और प्रौद्योगिकी विश्वविद्यालय के वैज्ञानिकों ने कृत्रिम बुद्धिमत्ता (एआई) मॉडल में "मतिभ्रम" के मुद्दे को संबोधित करने के लिए डिज़ाइन किया गया एक अभिनव उपकरण बनाया है। इस संदर्भ में मतिभ्रम एआई मॉडल को संदर्भित करता है जो आत्मविश्वास आउटपुट उत्पन्न करता है जो उस डेटा पर आधारित नहीं लगता है जिसके साथ उन्हें प्रशिक्षित किया गया था। यह मुद्दा मुख्य रूप से बड़े भाषा मॉडल (एलएलएम) अनुसंधान में देखा जाता है और ओपनएआई के चैटजीपीटी और एंथ्रोपिक के क्लाउड जैसे मॉडल के साथ खेल में आता है।
टेनसेंट और यूएसटीसी के समूह ने "वुडपेकर" नामक एक उपकरण लॉन्च किया, जो वे दावा करते हैं कि मल्टी-मोडल बड़ी भाषा मॉडल (एमएलएलएम) में मतिभ्रम को ठीक कर सकते हैं। एमएलएलएम एआई का एक उप-समूह है, जिसमें जीपीटी -4 और विशेष रूप से इसके दृश्य समकक्ष, जीपीटी -4 वी जैसे मॉडल शामिल हैं, साथ ही अन्य प्रणालियां जो पाठ-आधारित भाषा मॉडलिंग के साथ दृष्टि और अन्य प्रसंस्करण को शामिल करती हैं।
टीम के प्रारंभिक शोध पत्र से पता चलता है कि वुडपेकर संशोधन के तहत एमएलएलएम के साथ-साथ मतिभ्रम सुधार के लिए तीन अलग-अलग एआई मॉडल का उपयोग करता है। ये मॉडल, अर्थात् GPT-3.5 टर्बो, ग्राउंडिंग DINO, और BLIP-2-FlanT5, मतिभ्रम का पता लगाने के लिए मूल्यांकनकर्ताओं के रूप में काम करते हैं और सुधार के तहत मॉडल को अपने डेटा के अनुरूप अपने आउटपुट को फिर से तैयार करने के लिए मार्गदर्शन करते हैं।
मतिभ्रम को ठीक करने के लिए, वुडपेकर को शक्ति देने वाले एआई मॉडल एक पांच-चरण विधि अपनाते हैं जिसमें प्रमुख अवधारणाएं शामिल होती हैं, प्रश्न बनाना, दृश्य ज्ञान को मान्य करना, दृश्य दावे बनाना और अंत में मतिभ्रम सुधार। टीम का दावा है कि ये दृष्टिकोण पारदर्शिता को बढ़ावा देते हैं और बेसलाइन MiniGPT-4 / mPLUG-Owl पर सटीकता में 30.66% / 24.33% तक सुधार करते हैं।
अपने सूत्र का उपयोग करके कई मानक MLLM का मूल्यांकन करने के बाद, टीम ने निष्कर्ष निकाला कि वुडपेकर को अन्य MLLM में मूल रूप से शामिल किया जा सकता है। इस मुद्दे के साथ संबंध मनुष्यों और AI के लिए सच्चाई पर चापलूसी वाले चैटबॉट उत्तरों को पसंद करने की उत्सुक प्रवृत्ति है, जैसा कि एक अलग अध्ययन द्वारा उजागर किया गया है।
वुडपेकर का अनुभव करने में रुचि रखने वालों के लिए, एक मूल्यांकन संस्करण जीरेडियो लाइव पर सुलभ है।
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.