Le nouveau modèle d’IA de Groq met au défi les acteurs établis avec une rapidité et une innovation remarquables
Summary:
Groq, un nouveau modèle d’IA, fait des vagues sur les réseaux sociaux grâce à sa vitesse de calcul et de réponse supérieure qui surpasse le chatbot d’IA, ChatGPT. La vitesse de Groq est rendue possible par sa puce ASIC distinctive développée par Groq Inc., qui lui permet de générer environ 500 jetons par seconde. La société, bien que créée en 2016, a récemment pris de l’importance et a fait l’objet de comparaisons avec d’autres modèles d’IA, notamment Grok d’Elon Musk. Les LPU de Groq sont salués comme un « changeur de jeu » pour les besoins futurs des applications d’IA, offrant potentiellement une amélioration majeure par rapport aux GPU et aux puces A100 et H100 de Nvidia.
Groq, le plus récent acteur dans le domaine de l’intelligence artificielle (IA), crée un buzz sur les médias sociaux en raison de son taux de réponse rapide et de sa technologie innovante qui pourrait potentiellement éliminer la nécessité des GPU. Groq a rapidement gagné en popularité après avoir partagé publiquement les résultats de son benchmark sur le réseau social X, démontrant ainsi ses temps de calcul et de réponse supérieurs à ceux du chatbot d’IA largement utilisé, ChatGPT.
La vitesse exceptionnelle de Groq peut être attribuée à sa puce unique de circuit intégré spécifique à l’application (ASIC), conçue explicitement pour les grands modèles de langage (LLM). Cette puce permet à Groq de produire environ 500 jetons par seconde, considérablement plus rapidement que la version publique de ChatGPT 3.5, qui génère près de 40 jetons par seconde. Groq Inc., la société responsable de cette technologie, aurait développé la première unité de traitement du langage (LPU), qui est utilisée pour faire fonctionner son modèle, par opposition aux GPU gourmands en ressources et plus coûteux généralement utilisés dans les modèles d’IA.
Malgré sa notoriété récente, l’entreprise derrière Groq n’est pas une nouvelle venue. Elle a été créée en 2016, en même temps qu’elle a enregistré le nom Groq. L’année dernière, les développeurs de Groq ont souligné la similitude avec le modèle d’IA d’Elon Musk, appelé Grok, en demandant publiquement à Musk de reconsidérer le nom. Cependant, depuis la montée en puissance de la reconnaissance de Groq sur les réseaux sociaux, aucun commentaire n’a été fait par Musk ou la page Grok sur la question.
Sur les plateformes de médias sociaux, certains ont établi des comparaisons entre le modèle LPU et d’autres homologues basés sur GPU. Un utilisateur employé dans le développement de l’IA a célébré Groq comme un « changeur de jeu » pour son potentiel dans les produits qui nécessitent une latence minimale, le temps nécessaire à un système pour répondre à une demande donnée. Les PPU de Groq ont également été reconnus par un autre utilisateur comme une avancée majeure potentielle par rapport aux GPU en termes de réponse aux besoins futurs des applications d’IA. L’utilisateur a laissé entendre qu’il pourrait être un concurrent viable des puces A100 et H100 axées sur les performances fabriquées par Nvidia.
Ces éloges surviennent à un moment où plusieurs grands développeurs d’IA travaillent à la création de leurs propres puces internes pour réduire la dépendance aux modèles de Nvidia. OpenAI, par exemple, chercherait à obtenir un soutien financier de plusieurs milliers de milliards de dollars de la part de gouvernements et d’investisseurs du monde entier pour développer individuellement une puce afin de relever les défis liés à la mise à l’échelle des produits.
Published At
2/19/2024 4:35:15 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.