OpenAI 与 Anthropic 高昂的调用成本正严重侵蚀初创企业利润,甚至导致法律 AI 独角兽 Harvey 毛利率跌至负数。面对成本危机与巨头直接竞争,越来越多 AI 公司转向开放权重模型,行业正走向混合部署模式。
面对 OpenAI 和 Anthropic 飙升的模型调用成本,越来越多的 AI 初创公司正加速出逃,转而投向更具性价比的开源权重模型。
据彭博社报道,高昂的推理开销不仅蚕食了企业的利润空间,甚至动摇了商业模式的成立前提。这促使 AI 初创企业开始使用自有数据微调低成本模型,成为当前生成式 AI 商业化进程的重要转折点。
这一趋势在法律 AI 独角兽 Harvey 身上体现得尤为明显。该公司在 9 月完成 5.5 亿美元融资后,估值已达 156 亿美元。
Harvey 的底层业务长期构建在 OpenAI 的 GPT-4 之上。知情人士透露,今年 3 月 Harvey 升级 AI 智能体后,客户调用量暴增,导致其 AI Token 消耗量较年初暴涨 20 倍。由此付出的直接代价是:公司的毛利率从年初的约 50% 断崖式下跌,到 6 月已跌至 -50%。
为了扭转亏损,Harvey 在 8 月推出了自研模型。该模型基于中国月之暗面(Moonshot AI)的开源权重模型 Kimi K3 构建,不仅性能比肩 Anthropic 的顶级模型,成本却仅为后者的一小部分。切换后,Harvey 的毛利率已成功转正。
遭遇成本危机的远不止 Harvey 一家:
促成这一转变的核心驱动力在于经济效益。Mozilla 发布的最新报告显示,开源权重模型与顶级闭源模型的性能差距已收窄至仅 4.4 个月,而前者的运行成本仅为后者的 30% 左右。Mozilla 首席技术官 Raffi Krikorian 指出:“对于大部分机构而言,将开源模型作为绝大多数业务的默认选项才是最理性的策略。”
初创公司的撤离,也源于两大头部大模型厂商的双重挤压。OpenAI 和 Anthropic 不仅在基础订阅费之外加收更高的 Token 调用费用,还在法律、金融等垂类领域大肆招募人才、自研应用,开始与下游客户直接竞争。
不过,初创公司彻底断绝与闭源巨头的合作并不现实。红点创投管理合伙人 Logan Bartlett 认为,初创团队在必要时仍会为顶级性能买单,“大家不会意气用事”。
例如,Harvey 在处理极高难度的复杂任务时,依然依赖 Anthropic 最顶级的 Claude Opus。整个 AI 行业正逐渐从单一依赖闭源 API,演进为“日常轻量任务用开源、高难复杂逻辑调闭源”的混合架构。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断