Новая модель искусственного интеллекта Groq бросает вызов устоявшимся игрокам с поразительной скоростью и инновациями
Summary:
Groq, новая модель искусственного интеллекта, производит фурор в социальных сетях благодаря своей превосходной скорости вычислений и отклика, которая превосходит чат-бота с искусственным интеллектом ChatGPT. Скорость Groq обеспечивается отличительным чипом ASIC, разработанным Groq Inc., который позволяет ему генерировать около 500 токенов в секунду. Несмотря на то, что компания была основана в 2016 году, в последнее время она приобрела известность и вызвала сравнения с другими моделями искусственного интеллекта, включая Grok Илона Маска. LPU от Groq называют «переломным моментом» для будущих потребностей приложений искусственного интеллекта, потенциально обеспечивая значительное улучшение по сравнению с графическими процессорами и чипами Nvidia A100 и H100.
Groq, новейший игрок на арене искусственного интеллекта (ИИ), создает ажиотаж в социальных сетях благодаря своей быстрой скорости отклика и инновационной технологии, которая потенциально может устранить необходимость в графических процессорах. Groq быстро завоевал популярность после того, как публично поделился своими результатами в социальной сети X, продемонстрировав превосходное время вычислений и отклика по сравнению с широко используемым чат-ботом с искусственным интеллектом ChatGPT.
Выдающаяся скорость Groq может быть связана с его уникальным чипом интегральной схемы (ASIC), разработанным специально для больших языковых моделей (LLM). Этот чип позволяет Groq производить около 500 токенов в секунду, что значительно быстрее, чем публичная версия ChatGPT 3.5, которая генерирует почти 40 токенов в секунду. Groq Inc., фирма, ответственная за эту технологию, предположительно разработала первый Language Processing Unit (LPU), который используется для управления ее моделью, в отличие от ресурсоемких и более дорогих графических процессоров, обычно используемых в моделях искусственного интеллекта.
Несмотря на свою недавнюю известность, компания, стоящая за Groq, не новичок. Она была основана в 2016 году, тогда же зарегистрировала название Groq. Разработчики Groq в прошлом году подчеркнули сходство с моделью искусственного интеллекта Илона Маска под названием Grok, публично попросив Маска пересмотреть название. Однако с тех пор, как Groq получил признание в социальных сетях, ни Маск, ни страница Grok не дали никаких комментариев по этому вопросу.
В социальных сетях некоторые сравнивают модель LPU с другими аналогами на базе GPU. Пользователь, занятый в разработке искусственного интеллекта, назвал Groq «революционером» из-за его потенциала в продуктах, которые требуют минимальной задержки, времени, необходимого для того, чтобы система ответила на заданный запрос. LPU Groq также были признаны другим пользователем как потенциальный серьезный шаг вперед по сравнению с графическими процессорами с точки зрения удовлетворения будущих потребностей приложений ИИ. Пользователь намекнул, что он может стать жизнеспособным конкурентом ориентированным на производительность чипам A100 и H100 производства Nvidia.
Эта похвала возникает в то время, когда несколько крупных разработчиков ИИ работают над созданием собственных чипов, чтобы уменьшить зависимость от моделей Nvidia. Например, OpenAI, как утверждается, ищет финансовую поддержку в размере триллионов долларов от мировых правительств и инвесторов для индивидуальной разработки чипа для решения проблем масштабирования продукта.
Published At
2/19/2024 4:35:15 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.