Groq 的新 AI 模型以非凡的速度和创新挑战老牌玩家
Summary:
Groq 是一种新的 AI 模型，以其超越 AI 聊天机器人 ChatGPT 的卓越计算和响应速度在社交媒体上掀起波澜。Groq 的速度得益于 Groq Inc. 开发的独特 ASIC 芯片，该芯片允许它每秒生成大约 500 个代币。该公司虽然成立于 2016 年，但最近声名鹊起，并与包括 Elon Musk 的 Grok 在内的其他 AI 模型进行了比较。Groq 的 LPU 被誉为 AI 应用程序未来需求的“游戏规则改变者”，可能会对 GPU 和 Nvidia 的 A100 和 H100 芯片进行重大改进。
Groq 是人工智能 （AI） 领域的最新参与者，由于其快速响应速度和创新技术，可能会消除对 GPU 的需求，因此在社交媒体上引起了轰动。Groq 在社交网络 X 上公开分享其基准测试结果后迅速流行起来，展示了与广泛使用的 AI 聊天机器人 ChatGPT 相比，其卓越的计算和响应时间。
Groq 的出色速度可归因于其独特的专用集成电路 （ASIC） 芯片，该芯片专为大型语言模型 （LLM） 而设计。该芯片允许 Groq 每秒产生约 500 个代币，比 ChatGPT 3.5 的公开版本快得多，后者每秒产生近 40 个代币。据称，负责这项技术的公司Groq Inc.开发了第一个语言处理单元（LPU），用于操作其模型，而不是AI模型中通常使用的资源密集型和价格更高的GPU。
尽管最近声名鹊起，但 Groq 背后的公司并不是一个新来者。它成立于 2016 年，同时注册了 Groq 这个名字。去年，Groq 的开发人员通过公开要求马斯克重新考虑该名称，强调了与埃隆·马斯克 （Elon Musk） 的 AI 模型 Grok 的相似之处。然而，自从 Groq 在社交媒体上的认可度飙升以来，马斯克或 Grok 页面没有就此问题发表任何评论。
在社交媒体平台上，一些人将 LPU 模型与其他基于 GPU 的同类产品进行了比较。一位受雇于人工智能开发的用户称赞Groq是“游戏规则改变者”，因为它在需要最小延迟的产品中具有潜力，即系统响应给定请求所需的时间。Groq 的 LPU 也被另一位用户认为是 GPU 在满足 AI 应用程序未来需求方面的潜在重大进步。该用户暗示，它可能是英伟达制造的以性能为导向的A100和H100芯片的可行竞争对手。
这种赞誉是在几家主要的人工智能开发商正在努力创建自己的内部芯片以减少对英伟达模型的依赖的时候出现的。例如，据称OpenAI正在寻求全球政府和投资者的数万亿美元资金支持，以单独开发芯片以应对产品扩展方面的挑战。
Published At
2/19/2024 4:35:15 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.