Groq 是一家硅谷初创公司,致力于开发能够比传统处理器更快地运行生成式 AI 模型的芯片,该公司在由贝莱德私募股权合伙人领投的 D 轮融资中筹集了 6.4 亿美元。
本轮融资的其他支持者包括 Neuberger Berman、Type One Ventures 等现有和新投资者,以及思科投资、Global Brain 的 KDDI 开放创新基金 III 和三星催化基金等战略投资者。
最新一轮融资使 Groq 的总融资额超过 10 亿美元,该公司的估值也因此升至 28 亿美元。Groq 在 2021 年 4 月的估值约为 10 亿美元,当时该公司在 Tiger Global Management 和 D1 Capital Partners 领投的一轮融资中筹集了 3 亿美元,这轮融资使 Groq 的估值翻了一番多。
Groq 在获得融资的同时,还宣布 Meta 首席人工智能科学家 Yann LeCun 将担任其技术顾问,英特尔代工业务前负责人、惠普前首席信息官 Stuart Pann 将加入这家初创公司,担任首席运营官。鉴于 Meta 在自己的人工智能芯片上的投资,LeCun 的任命有点出人意料,但毫无疑问,这让 Groq 在竞争激烈的领域获得了一个强大的盟友。
“人工智能计算市场意义重大,Groq 的垂直整合解决方案非常适合抓住这一机遇。我们期待支持 Groq 扩大规模以满足需求并进一步加速其创新,”BlackRock Private Equity Partners 董事总经理 Samir Menon 表示。
Groq 由首席执行官乔纳森·罗斯 (Jonathan Ross) 创立,于 2016 年崭露头角,旨在打造所谓的 LPU(语言处理单元)推理引擎。该公司声称,其 LPU 可以运行现有的生成式 AI 模型,其架构类似于 OpenAI 的 ChatGPT 和 GPT-4,速度是后者的十倍,能耗仅为后者的十分之一。独特的垂直整合式 Groq AI 推理平台吸引了大量追求卓越速度的开发人员。
“没有推理计算,就无法为 AI 提供动力,”Ross 说道。“我们打算提供资源,让任何人都可以创建尖端的 AI 产品,而不仅仅是最大的科技公司。这笔资金将使我们能够在 GroqCloud 中部署超过 100,000 个额外的 LPU。训练 AI 模型的问题已经解决,现在是时候部署这些模型,让全世界都可以使用它们了。在获得了两倍于所需资金后,我们现在计划大幅扩大我们的人才密度。我们的团队让数十万开发人员能够在开放模型上进行构建,而且我们正在招聘。”
Grog 并不是唯一一家旨在蚕食 Nvidia 市场份额的 AI 芯片初创公司。由两名哈佛辍学生创立的 AI 芯片初创公司 Etched 也在开发用于训练、部署和优化 AI 模型(称为 transformer)的 AI 芯片。我们在 6 月份报道了 Etched,当时该公司在 A 轮融资中筹集了 1.2 亿美元,用于开发用于生成 AI 的专用芯片。
与此同时,Groq 已迅速发展到拥有超过 360,000 名基于 GroqCloud™ 的开发人员,他们基于公开可用的模型创建 AI 应用程序,例如 Meta 的 Llama 3.1、OpenAI 的 Whisper Large V3、Google 的 Gemma 和 Mistral 的 Mixtral。Groq 将利用这笔资金扩大其代币即服务 (TaaS) 产品的容量,并为 GroqCloud 添加新的模型和功能。
Meta 首席执行官兼创始人马克·扎克伯格最近在题为“开源 AI 是前进的道路”的公开信中分享道:“像 Groq 这样的创新者为所有新模型构建了低延迟、低成本的推理服务。”
随着 Gen AI 应用从训练转向部署,开发人员和企业需要一种能够满足用户和市场对速度需求的推理策略。在 Groq 的即时速度的推动下,大量开发人员涌向 Groq,创建了各种新颖而富有创意的 AI 应用和模型。
为了满足开发人员和企业的需求,Groq 将在 2025 年第一季度末部署由 GlobalFoundries 生产的超过 108,000 个 LPU,这是非超大规模企业中最大的 AI 推理计算部署。