Il nuovo modello di intelligenza artificiale di Groq sfida i giocatori affermati con una velocità e un'innovazione notevoli
Summary:
Groq, un nuovo modello di intelligenza artificiale, sta facendo scalpore sui social media con la sua velocità di calcolo e risposta superiore che supera il chatbot AI, ChatGPT. La velocità di Groq è resa possibile dal suo caratteristico chip ASIC sviluppato da Groq Inc., che gli consente di generare circa 500 token al secondo. L'azienda, sebbene fondata nel 2016, ha recentemente guadagnato importanza e ha attirato confronti con altri modelli di intelligenza artificiale, tra cui Grok di Elon Musk. Le LPU di Groq sono state salutate come un "punto di svolta" per le future esigenze delle applicazioni AI, fornendo potenzialmente un importante miglioramento rispetto alle GPU e ai chip A100 e H100 di Nvidia.
Groq, il nuovo attore nell'arena dell'intelligenza artificiale (AI), sta creando un ronzio sui social media grazie al suo rapido tasso di risposta e alla tecnologia innovativa che potrebbe potenzialmente eliminare la necessità di GPU. Groq ha rapidamente guadagnato popolarità dopo aver condiviso pubblicamente i suoi risultati di benchmark sul social network X, dimostrando i suoi tempi di calcolo e risposta superiori rispetto al chatbot AI ampiamente utilizzato, ChatGPT.
La straordinaria velocità di Groq può essere attribuita al suo esclusivo chip ASIC (Application-Specific Integrated Circuit), progettato esplicitamente per i modelli linguistici di grandi dimensioni (LLM). Questo chip consente a Groq di produrre circa 500 token al secondo, notevolmente più velocemente della versione pubblica di ChatGPT 3.5, che genera quasi 40 token al secondo. Groq Inc., l'azienda responsabile di questa tecnologia, ha presumibilmente sviluppato la prima unità di elaborazione linguistica (LPU), che viene utilizzata per far funzionare il suo modello, al contrario delle GPU ad alta intensità di risorse e più costose tipicamente utilizzate nei modelli di intelligenza artificiale.
Nonostante la sua recente importanza, l'azienda dietro Groq non è una nuova arrivata. È stata fondata nel 2016, nello stesso momento in cui ha registrato il nome Groq. Gli sviluppatori di Groq l'anno scorso hanno evidenziato la somiglianza con il modello di intelligenza artificiale di Elon Musk, chiamato Grok, chiedendo pubblicamente a Musk di riconsiderare il nome. Tuttavia, dopo l'impennata di riconoscimenti di Groq sui social media, non sono stati fatti commenti da parte di Musk o della pagina Grok sulla questione.
Sulle piattaforme dei social media, alcuni hanno fatto confronti tra il modello LPU e altre controparti basate su GPU. Un utente impiegato nello sviluppo dell'intelligenza artificiale ha celebrato Groq come un "punto di svolta" per il suo potenziale in prodotti che richiedono una latenza minima, il tempo impiegato da un sistema per rispondere a una determinata richiesta. Le LPU di Groq sono state anche riconosciute da un altro utente come un potenziale importante progresso rispetto alle GPU in termini di soddisfare le esigenze future delle applicazioni AI. L'utente ha lasciato intendere che potrebbe essere un valido concorrente dei chip A100 e H100 orientati alle prestazioni prodotti da Nvidia.
Questo elogio nasce in un momento in cui diversi importanti sviluppatori di intelligenza artificiale stanno lavorando per creare i propri chip interni per ridurre la dipendenza dai modelli di Nvidia. OpenAI, ad esempio, starebbe cercando un sostegno finanziario che si estenda a trilioni di dollari da parte di governi e investitori globali per sviluppare individualmente un chip per contrastare le sfide nella scalabilità dei prodotti.
Published At
2/19/2024 4:35:15 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.