groq官方宣布,已与英伟达就其前沿推理技术签署非独家授权协议。此举标志着双方将携手推动高性能、高能效且具备成本优势的ai推理解决方案在更广泛场景中的落地与普及。

依据协议内容,Groq联合创始人Jonathan Ross、总裁Sunny Madra以及核心研发团队将整体加入英伟达,深度参与相关推理技术的迭代优化与大规模产业化部署。
Groq仍将维持独立运营主体地位,由Simon Edwards担任首席执行官。其面向全球用户的GroqCloud云服务平台将持续稳定提供服务,现有功能与性能均不受任何影响。
早前曾有市场传闻指出,英伟达拟以约200亿美元全资收购AI芯片新锐企业Groq,若成真,这将成为英伟达历史上金额最高的并购案。但英伟达随后明确澄清:此次合作并非收购,而是一次聚焦于推理技术使用权的授权合作。
公开信息显示,Groq成立于2016年,由前谷歌TPU项目关键架构师Jonathan Ross创办。该公司自主研发的LPU(Language Processing Unit)专用推理芯片,正是本次合作的技术基石。不同于英伟达通用型GPU,LPU从底层架构出发,专为大模型推理任务量身定制,依托确定性执行模型、超大容量片上SRAM等创新设计,在延迟控制、能效比及吞吐效率方面实现突破性提升。
实测数据显示,在运行主流大语言模型时,LPU的推理性能可达英伟达H100 GPU的5–18倍;首token生成时间低至0.2秒,并显著缓解传统GPU在推理阶段长期面临的“内存墙”瓶颈与高延迟挑战。
对英伟达而言,此次采取“非独占技术授权+核心人才整合”的双轨策略,不仅可高效弥补其在AI推理领域的结构性短板,进一步强化端到端AI计算生态的领先优势,还能规避高额并购带来的整合风险与资本压力,从而更灵活地应对来自谷歌TPU、微软Azure Maia等竞品的持续竞争。
源码地址:点击下载










