Механизм логического вывода LPU от Groq: переломный момент в механике ИИ, затмевающий топ-модели
Summary:
Революционный инструмент искусственного интеллекта Groq, Groq LPU Inference Engine, завоевал общественное обожание после того, как затмил производительность лучших моделей ИИ в публичных тестах. Главный евангелист Groq Марк Хипс проливает свет на создание Groq, объясняя его программно-ориентированный дизайн, направленный на то, чтобы сделать ИИ доступным во всем мире, и его потенциал для изменения того, как работают системы ИИ. Он также обратил внимание на вероятную путаницу между названиями «Groq» и чат-ботом Илона Маска с искусственным интеллектом «Grok».
Новый инструмент искусственного интеллекта (ИИ) Groq, Groq LPU Inference Engine, произвел революцию в общественном дискурсе после того, как показал выдающиеся результаты в публичных бенчмарк-тестах, предоставив результаты, превосходящие элитные модели от известных технологических гигантов. Groq не следует путать с моделью искусственного интеллекта Илона Маска, потому что Groq — это не модель ИИ, а инфраструктура чипов для запуска модели. Создатели Groq разработали свой уникальный «программно-ориентированный» чип искусственного интеллекта под названием Language Processing Unit (LPU), предназначенный для приложений логического вывода. LPU позволяет Groq генерировать около 500 токенов в секунду. В отличие от общедоступной модели искусственного интеллекта ChatGPT-3.5, которая работает на ограниченных и дорогих графических процессорах (GPU), выдает всего около 40 токенов в секунду. Groq привлекла значительное внимание к платформе X, поскольку она значительно отличается от других систем искусственного интеллекта. Среди новых стартапов в области чипов искусственного интеллекта Groq выделяется своей новаторской стратегией, ориентированной на технологию компилятора для улучшения простой, но мощной архитектуры.
Cointelegraph пообщался с Марком Хипсом, главным евангелистом Groq, чтобы получить глубокое понимание инструмента и его потенциала для изменения функционирования систем искусственного интеллекта. По словам Хипса, основатель Groq Джонатан Росс стремился разработать систему, которая предотвратила бы раскол в области искусственного интеллекта. В то время тензорные процессоры (TPU) были эксклюзивными для Google для своих систем. Тем не менее, появление LPU было направлено на то, чтобы предоставить любому человеку во всем мире доступ к этому технологическому уровню для создания инновационных решений для всего мира. Хипс охарактеризовал LPU как «программно-ориентированное аппаратное решение», которое унифицирует процесс передачи данных не только по чипу, но и от чипа к чипу и по всей сети.
Нынешнее затруднительное положение для разработчиков связано с ограниченной доступностью и стоимостью надежных графических процессоров, таких как чипы Nvidia A100 и H100, необходимых для запуска моделей искусственного интеллекта. Тем не менее, Хипс отметил, что Groq не сталкивается с теми же проблемами, учитывая конструкцию их чипа из 14-нм кремния, предлагая доступность и доступность. Для развертывания оборудования в небольших масштабах системы GPU по-прежнему актуальны. Тем не менее, дебаты между LPU и GPU часто зависят от различных аспектов, таких как рабочая нагрузка и модель.
По словам Хипса, несмотря на то, что большинство ведущих разработчиков еще не внедрили LPU, этому способствуют несколько причин, в том числе относительно недавний «всплеск LLM». Некоторые разработчики по-прежнему предпочитают комплексное решение, такое как GPU, как для обучения, так и для логического вывода. Однако нынешние рыночные условия требуют дифференциации, и общие решения не могут этого достичь.
В дополнение к продукту, Хипс обратился к названию «Groq» и вероятной путанице с чат-ботом Илона Маска с искусственным интеллектом «Grok». Несмотря на то, что «Grok» привлек к себе широкое внимание только в ноябре 2023 года, «Groq» был основан в 2016 году, а его название впоследствии было зарегистрировано как торговая марка. Он заявил, что, несмотря на заявления некоторых поклонников Маска о том, что они намеревались «унаследовать имя» или в качестве маркетингового хода, осведомленность об истории компании заставила критиков замолчать. В настоящее время фокус сместился на Groq, с Q.
Published At
2/22/2024 1:23:14 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.