Groq का LPU अनुमान इंजन: AI यांत्रिकी में एक गेम-परिवर्ती, शीर्ष मॉडलों को मात देता है
Summary:
Groq के क्रांतिकारी कृत्रिम बुद्धिमत्ता उपकरण, Groq LPU अनुमान इंजन ने सार्वजनिक बेंचमार्क परीक्षणों में शीर्ष AI मॉडल के प्रदर्शन की देखरेख करने के बाद सार्वजनिक आराधना प्राप्त की है। ग्रोक के मुख्य प्रचारक, मार्क हीप्स, ग्रोक के निर्माण पर प्रकाश डालते हैं, एआई को विश्व स्तर पर सुलभ बनाने के उद्देश्य से अपने सॉफ्टवेयर-केंद्रित डिजाइन की व्याख्या करते हैं, और एआई सिस्टम के संचालन के तरीके को बदलने की इसकी क्षमता है। उन्होंने "ग्रोक" और एलोन मस्क के एआई चैटबॉट "ग्रोक" नामों के बीच संभावित भ्रम को भी संबोधित किया।
ग्रोक का नया कृत्रिम बुद्धिमत्ता (एआई) उपकरण, ग्रोक एलपीयू अनुमान इंजन, सार्वजनिक बेंचमार्क परीक्षणों में अपने असाधारण प्रदर्शन के बाद सार्वजनिक प्रवचन में एक क्रांति लाया है, जो उल्लेखनीय तकनीकी दिग्गजों के कुलीन मॉडल से बेहतर परिणाम प्रदान करता है। एलोन मस्क के एआई मॉडल ग्रोक के लिए ग्रोक को गलत नहीं माना जाना चाहिए क्योंकि ग्रोक एआई मॉडल नहीं है बल्कि एक मॉडल चलाने के लिए एक चिप इन्फ्रास्ट्रक्चर है। Groq के रचनाकारों ने अपने अद्वितीय "सॉफ़्टवेयर-केंद्रित" AI चिप को एक भाषा प्रसंस्करण इकाई (LPU) नाम दिया, जो अनुमान अनुप्रयोगों के लिए बनाई गई थी। LPU Groq को प्रति सेकंड लगभग 500 टोकन उत्पन्न करने का अधिकार देता है। सार्वजनिक रूप से सुलभ AI मॉडल ChatGPT-3.5 के विपरीत, जो सीमित और महंगी ग्राफिक्स प्रोसेसिंग यूनिट (GPU) पर काम करता है, प्रति सेकंड केवल लगभग 40 टोकन वितरित करता है। Groq को X प्लेटफॉर्म पर काफी ध्यान मिला क्योंकि यह अन्य AI सिस्टम की तुलना में बड़े पैमाने पर है। उभरते एआई चिप स्टार्ट-अप के बीच, ग्रोक एक सरल लेकिन शक्तिशाली वास्तुकला को बढ़ाने के लिए अपनी कंपाइलर तकनीक पर ध्यान केंद्रित करने वाली अपनी अभूतपूर्व रणनीति के साथ चमकता है।
कॉइन्टेग्राफ ने उपकरण की गहन समझ और एआई सिस्टम फ़ंक्शन को बदलने की इसकी क्षमता के लिए ग्रोक के मुख्य प्रचारक मार्क हीप्स के साथ बातचीत की। हीप्स के अनुसार, ग्रोक के संस्थापक, जोनाथन रॉस का उद्देश्य एक ऐसी प्रणाली विकसित करना है जो एआई विभाजन को रोक सके। उस समय, टेंसर प्रोसेसिंग यूनिट (TPU) अपने सिस्टम के लिए Google के लिए अनन्य थे। हालांकि, एलपीयू के उद्भव का उद्देश्य दुनिया भर में किसी को भी इस प्रौद्योगिकी स्तर तक पहुंच प्रदान करना है ताकि दुनिया के लिए अभिनव समाधान उत्पन्न किए जा सकें। हीप्स ने एलपीयू को "सॉफ्टवेयर-केंद्रित हार्डवेयर समाधान" के रूप में चित्रित किया जो न केवल चिप में बल्कि चिप से चिप और पूरे नेटवर्क में डेटा यात्रा प्रक्रिया को एकीकृत करता है।
डेवलपर्स के लिए वर्तमान स्थिति में AI मॉडल चलाने के लिए आवश्यक Nvidia के A100 और H100 चिप्स जैसे मजबूत GPU की सीमित उपलब्धता और खर्च शामिल है। हालांकि, हीप्स ने उल्लेख किया कि ग्रोक को 14nm सिलिकॉन से उनकी चिप के निर्माण को देखते हुए समान समस्याओं का सामना नहीं करना पड़ता है, जो सामर्थ्य और पहुंच प्रदान करता है। छोटे पैमाने पर हार्डवेयर परिनियोजन के लिए, GPU सिस्टम की प्रासंगिकता बनी हुई है। हालाँकि, LPU बनाम GPU बहस अक्सर कार्यभार और मॉडल जैसे विभिन्न पहलुओं पर निर्भर करती है।
जबकि एलपीयू को अभी तक प्रमुख डेवलपर्स के बहुमत द्वारा लागू नहीं किया गया है, हीप्स ने कहा, कई कारणों से इसमें योगदान होता है, जिसमें अपेक्षाकृत हालिया "एलएलएम की वृद्धि" शामिल है। कुछ डेवलपर्स अभी भी प्रशिक्षण और अनुमान दोनों के लिए GPU जैसे व्यापक समाधान पसंद करते हैं। हालांकि, मौजूदा बाजार स्थितियों ने सामान्य समाधानों के साथ भेदभाव की आवश्यकता पैदा कर दी है, जो इसे प्राप्त करने में विफल रहे हैं।
उत्पाद के अलावा, हीप्स ने "ग्रोक" नाम और एलोन मस्क के एआई चैटबॉट "ग्रोक" के साथ संभावित भ्रम को संबोधित किया। "ग्रोक" को केवल नवंबर 2023 में व्यापक ध्यान आकर्षित करने के बावजूद, "ग्रोक" की स्थापना 2016 में हुई थी, जिसका नाम बाद में ट्रेडमार्क किया गया था। उन्होंने कहा कि कुछ मस्क प्रशंसकों के दावों के बावजूद कि वे "नाम विरासत में लेना" चाहते हैं या एक विपणन चाल के रूप में, कंपनी के इतिहास के बारे में जागरूकता ने आलोचकों को चुप करा दिया है। वर्तमान में, फोकस ग्रोक में स्थानांतरित हो गया है, एक क्यू के साथ।
Published At
2/22/2024 1:23:14 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.