El nuevo modelo de IA de Groq desafía a los jugadores establecidos con una velocidad e innovación notables
Summary:
Groq, un nuevo modelo de IA, está causando sensación en las redes sociales con su velocidad superior de computación y respuesta que supera al chatbot de IA, ChatGPT. La velocidad de Groq es posible gracias a su distintivo chip ASIC desarrollado por Groq Inc., que le permite generar aproximadamente 500 tokens por segundo. La compañía, aunque se estableció en 2016, recientemente ha ganado prominencia y ha sido comparada con otros modelos de IA, incluido Grok de Elon Musk. Las LPU de Groq están siendo aclamadas como un "cambio de juego" para las necesidades futuras de las aplicaciones de IA, lo que podría proporcionar una mejora importante con respecto a las GPU y los chips A100 y H100 de Nvidia.
Groq, el jugador más nuevo en el campo de la inteligencia artificial (IA), está creando un gran revuelo en las redes sociales debido a su rápida tasa de respuesta y tecnología innovadora que podría eliminar la necesidad de GPU. Groq ganó popularidad rápidamente después de compartir públicamente sus resultados de referencia en la red social X, demostrando su computación y tiempos de respuesta superiores en comparación con el chatbot de IA ampliamente utilizado, ChatGPT.
La velocidad sobresaliente de Groq se puede atribuir a su exclusivo chip de circuito integrado de aplicación específica (ASIC), diseñado explícitamente para grandes modelos de lenguaje (LLM). Este chip permite a Groq producir unos 500 tokens por segundo, considerablemente más rápido que la versión pública de ChatGPT 3.5, que genera casi 40 tokens por segundo. Groq Inc., la empresa responsable de esta tecnología, supuestamente ha desarrollado la primera Unidad de Procesamiento del Lenguaje (LPU), que se utiliza para operar su modelo, a diferencia de las GPU, que consumen muchos recursos y son más caras, que suelen utilizarse en los modelos de IA.
A pesar de su reciente prominencia, la compañía detrás de Groq no es una recién llegada. Se estableció en 2016, al mismo tiempo que registró el nombre Groq. El año pasado, los desarrolladores de Groq destacaron la similitud con el modelo de IA de Elon Musk, llamado Grok, al solicitar públicamente a Musk que reconsiderara el nombre. Sin embargo, desde el aumento del reconocimiento de Groq en las redes sociales, no se han hecho comentarios de Musk o de la página de Grok sobre el tema.
En las plataformas de redes sociales, algunos han hecho comparaciones entre el modelo LPU y otras contrapartes basadas en GPU. Un usuario empleado en el desarrollo de IA celebró Groq como un "cambio de juego" por su potencial en productos que requieren una latencia mínima, el tiempo que tarda un sistema en responder a una solicitud determinada. Las LPU de Groq también fueron reconocidas por otro usuario como un posible avance importante sobre las GPU en términos de satisfacer las necesidades futuras de las aplicaciones de IA. El usuario insinuó que podría ser un competidor viable para los chips A100 y H100 orientados al rendimiento fabricados por Nvidia.
Este elogio surge en un momento en que varios de los principales desarrolladores de IA están trabajando para crear sus propios chips internos para disminuir la dependencia de los modelos de Nvidia. OpenAI, por ejemplo, supuestamente está buscando apoyo financiero que se extiende a billones de dólares de gobiernos e inversores globales para desarrollar individualmente un chip para contrarrestar los desafíos en la escala de productos.
Published At
2/19/2024 4:35:15 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.