大模型在推理上突飞猛进,但高延迟与高成本让实时业务难以承受。前OpenAI研究员Diogo Almeida创立TypeSafe AI,推出专为代码决策打造的Jev,彻底摆脱逐字生成的算力浪费。

大语言模型的进化速度有目共睹。每一代新基座的推理能力都在跃升,解决复杂问题的上限也被不断推高。
但工程落地的现实十分骨感,两个瓶颈始终卡在喉咙里:速度太慢,成本太高。
在很多高频场景下,文本生成的范式根本行不通:
工程师长期面临两难权衡:选用小模型,智商不够用;调用顶尖大模型,延迟和账单又吃不消。
如今,有人试图打破这个死结。
曾任职于 OpenAI 的研究员 Diogo Almeida 带着新成果重回大众视野。他曾参与研发支撑 ChatGPT 核心的指令遵循(Instruction-Following)技术。2024 年离开 OpenAI 后,他隐身创业近两年。
现在,他的新公司 TypeSafe AI 推出了名为 Jev 的全新模型,并开启了早期访问。
与主流 LLM 截然不同,Jev 的设计初衷就不是为了陪人聊天或生成大段文本。
它不输出自由格式的内容,而是直接返回高度结构化的决策结果——包括分类选项、评分、概率分布等,让业务代码无需做复杂的正则解析即可直接消费。
当AI不需要在每一步推理中花费算力去“拼凑文字”,而是直接给出离散的决策信号,速度和成本曲线便迎来了彻底的重塑。对具身智能、高并发过滤系统以及各类实时决策流水线而言,这种专门面向行动而生的模型架构,正在开辟一条不同于通用对话大模型的新路径。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断