Liquid AI推出端侧模型LFM2.5-24B-A2B,专为边缘计算与端侧AI智能体打造。该模型通过混合专家架构实现高吞吐低延迟,让消费级设备无需依赖云端即可本地运行复杂的AI智能体任务。
Liquid AI 宣布推出全新的端侧混合专家模型 LFM2.5-24B-A2B。该模型专为端侧设备与边缘计算场景设计,旨在为本地运行的 AI 智能体提供低延迟、高吞吐和高隐私保障的计算能力。
长期以来,部署具备多步规划和工具调用能力的 AI 智能体通常依赖超大规模的云端大语言模型。这不仅带来显著的网络延迟和使用成本,在涉及敏感数据时还存在数据泄露隐患。LFM2.5-24B-A2B 的发布,正是为了解决端侧算力受限与模型能力需求之间的矛盾。
LFM2.5-24B-A2B 总参数量为 240 亿(24B),但采用了稀疏激活机制,单次推理仅激活约 20 亿(2B)参数。这种「总规模大、激活参数小」的架构设计,既保留了模型在逻辑推理与指令遵循上的大容量表达能力,又大幅降低了端侧设备的计算负载和发热量。
结合 Liquid 基础模型(Liquid Foundation Models)特有的非 Transformer 混合架构,LFM2.5-24B-A2B 在长上下文处理和连续流式推理中表现出极高的效率。相较于同等规模的传统密集模型,其首字生成延迟(TTFT)显著下降,内存占用和带宽需求也得到大幅精简。
该模型在设计之初便针对智能体任务进行了定向优化,涵盖复杂指令解析、函数调用(Function Calling)以及多轮状态追踪。开发者可以在配备主流 GPU、高规格集成显卡或专有 NPU 的个人 PC 及边缘设备上直接加载该模型。
在本地部署环境下,AI 智能体能够直接与操作系统的文件管理、浏览器自动化脚本以及私有数据库无缝交互,所有 Token 计算均在本地芯片内完成,彻底杜绝数据上传云端的合规风险。
目前,LFM2.5-24B-A2B 相关权重与评估套件已正式在 Hugging Face 平台开放,支持开发者基于现有框架进行本地量化与边缘部署测试。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断