OpenAI、DeepSeek、智谱、Anthropic等大模型厂商纷纷下场自研AI推理芯片。OpenAI首款芯片Jalapeño九个月完成开发,推理性能对标英伟达。推理成本与CUDA依赖是驱动,行业格局或将生变。

2026年年中以来,越来越多的独立大模型厂商开始亲自下场“造芯”。6月,OpenAI率先发布首款自研AI推理芯片Jalapeño,从架构设计到流片仅用9个月,创下ASIC领域最短开发周期纪录。7月,DeepSeek被曝已启动芯片项目约一年;智谱也正在推进自研芯片,已向多家国内芯片设计公司询价。8月,Anthropic正式确认组建芯片团队,为Claude定制AI芯片。
SemiAnalysis报告称,Jalapeño可直接对标英伟达新一代产品Vera Rubin,甚至可能冲击其CUDA护城河。
过去,独立模型厂商自研芯片并不被看好:没有云业务和客户生态,又难承受训练芯片的巨额投入。但推理时代的到来改变了这一判断。Agent、长上下文应用大规模落地,Token消耗激增,推理算力需求超过训练。AWS曾估算,推理可能占模型生命周期成本的90%。对模型公司来说,推理是每天要付的账单,规模越大,支出越高。
以智谱为例,其半年报显示,公司整体毛利率从去年同期的50%下降至26.4%。通过大规模部署国产推理芯片,单位Token推理成本半年压降约八成,但扣非亏损仍在扩大。压力之下,探索自研推理芯片顺理成章。
各家造芯路径也各不相同。OpenAI的Jalapeño在设计上颇为激进,抛弃了PD分离、推测解码等常规做法,以减少传输损耗,还考虑了通用性,以适配不同尺寸的模型。更重要的是,OpenAI利用AI辅助工具大幅加快设计进度,并用Codex重写底层内核代码,降低从CUDA迁移的成本。Anthropic也展示过类似能力:工程师用Claude在一个周末内完成了自家模型在AMD芯片上的适配优化。7月,Kimi的K3模型被展示在48小时内自主完成一款AI专用芯片的设计与验证。有芯片从业者提醒,K3用的是研究用途的开源EDA工具,支持制程仅50-100nm,不能说大模型吞噬了EDA,但其展示的Agent能力确实在冲击传统工具链。
供应链方面,OpenAI与博通合作做芯片实现,台积电代工,三星提供HBM4内存,天弘科技负责板卡集成。Anthropic据悉由三星代工,并已向SK海力士寻求存储产能。DeepSeek和智谱据称也已与国内芯片设计、代工、存储企业接触,还有光互联公司透露,国内模型厂已就定制光连接产品进行沟通。
模型厂商造芯,最受关注的还是英伟达。目前英伟达在全球AI芯片市场占有超75%份额,毛利率超75%。SemiAnalysis认为,Jalapeño不仅形成性能竞争,还为OpenAI换来更强议价能力,可能影响英伟达的长期毛利率。更关键的是,CUDA护城河来自开发者生态和代码迁移成本,而AI编程能力正让迁移变得容易。有评论称,“英伟达正在实时催产自己的潜在接班人”。英伟达也在反击,除了迭代芯片,还通过收购Groq、Hugging Face等布局硬件、软件与生态。
不过,也有GPU大厂高管认为,自研芯片与传统芯片企业只是局部竞争,合作仍是主流;专业芯片公司要服务更广泛的客户,模型厂商则追求特定场景的极致优化。云天励飞CEO陈宁则认为,模型厂商造芯印证了推理负载细分和软硬协同的趋势,专业芯片公司需要建立能持续适应模型演进的推理平台。
当然,造芯并非没有风险。资金、团队、工程问题之外,还有流片失败的可能。OpenAI的Jalapeño目前仍在工程样品验证阶段,大规模出货要到2027年底;其他厂商更处于早期。但无论如何,这些“硬核玩家”已成为AI芯片牌桌上不可忽视的新变量。
原文链接:钛媒体
本文由前途科技编辑整理
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断