Novo modelo de IA da Groq desafia jogadores estabelecidos com velocidade e inovação notáveis
Summary:
Groq, um novo modelo de IA, está fazendo sucesso nas mídias sociais com sua computação superior e velocidade de resposta que supera o chatbot de IA, ChatGPT. A velocidade da Groq é possibilitada por seu chip ASIC distinto desenvolvido pela Groq Inc., que permite gerar aproximadamente 500 tokens por segundo. A empresa, embora criada em 2016, ganhou destaque recentemente e atraiu comparações com outros modelos de IA, incluindo o Grok de Elon Musk. As LPUs da Groq estão sendo aclamadas como um "divisor de águas" para as necessidades futuras dos aplicativos de IA, potencialmente fornecendo uma grande melhoria nas GPUs e nos chips A100 e H100 da Nvidia.
Groq, o mais novo player na arena de inteligência artificial (IA), está criando um burburinho nas mídias sociais devido à sua rápida taxa de resposta e tecnologia inovadora que poderia potencialmente eliminar a necessidade de GPUs. A Groq rapidamente ganhou popularidade depois que compartilhou publicamente seus resultados de benchmark na rede social X, demonstrando sua computação e tempos de resposta superiores em comparação com o chatbot de IA amplamente usado, o ChatGPT.
A velocidade de destaque da Groq pode ser atribuída ao seu chip de circuito integrado específico de aplicação (ASIC) exclusivo, projetado explicitamente para modelos de linguagem grande (LLMs). Este chip permite que o Groq produza cerca de 500 tokens por segundo, consideravelmente mais rápido do que a versão pública do ChatGPT 3.5, que gera quase 40 tokens por segundo. A Groq Inc., empresa responsável por essa tecnologia, supostamente desenvolveu a primeira Unidade de Processamento de Linguagem (LPU), que é usada para operar seu modelo, em oposição às GPUs intensivas em recursos e mais caras normalmente utilizadas em modelos de IA.
Apesar de seu destaque recente, a empresa por trás da Groq não é novata. Foi criada em 2016, mesma época em que registrou o nome Groq. Os desenvolvedores do Groq no ano passado destacaram a semelhança com o modelo de IA de Elon Musk, chamado Grok, ao solicitar publicamente que Musk reconsiderasse o nome. No entanto, desde o aumento do reconhecimento de Groq nas redes sociais, nenhum comentário foi feito de Musk ou da página Grok sobre o assunto.
Nas plataformas de mídia social, alguns fizeram comparações entre o modelo LPU e outros equivalentes baseados em GPU. Um usuário empregado no desenvolvimento de IA comemorou o Groq como um "divisor de águas" por seu potencial em produtos que exigem latência mínima, o tempo necessário para que um sistema responda a uma determinada solicitação. As LPUs da Groq também foram reconhecidas por outro usuário como um grande avanço potencial sobre as GPUs em termos de atender às necessidades futuras dos aplicativos de IA. O usuário deu a entender que poderia ser um concorrente viável para os chips A100 e H100 voltados para o desempenho fabricados pela Nvidia.
Este elogio surge numa altura em que vários grandes programadores de IA estão a trabalhar para criar os seus próprios chips internos para diminuir a dependência dos modelos da Nvidia. A OpenAI, por exemplo, está supostamente buscando apoio financeiro de trilhões de dólares de governos e investidores globais para desenvolver individualmente um chip para combater os desafios no dimensionamento de produtos.
Published At
2/19/2024 4:35:15 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.