Liquid AI 发布 LFM2.5-2.6B,一款 26 亿参数的轻量模型,专为本地部署打造。它在 Agent 工具调用等任务上接近更大模型的水准,让智能体直接在笔记本等边缘设备上运行,兼顾隐私与成本。
Liquid AI 在 Hugging Face 上发布了 LFM2.5-2.6B,这是 LFM2.5 系列中专为本地部署场景打造的最新模型。它的定位很直接:让开发者把 AI 智能体直接部署到用户设备上,而不是依赖云端 API。
LFM2.5-2.6B 仅有 26 亿参数,属于轻量级大语言模型。这个体量让它能够在笔记本电脑、单板计算机乃至移动设备上运行。模型在推理效率上做了大量优化,显存占用和计算开销都被控制在很低的水平。对开发者而言,这意味着不需要昂贵的高端显卡,也能拥有一个可用的本地智能体。
与通用小模型不同,LFM2.5-2.6B 在设计和训练阶段就聚焦于 AI 智能体场景。工具调用、结构化输出解析、多轮对话中的上下文一致性——这些 Agent 开发中最常见也最容易出问题的环节,正是这个模型的打磨重点。评测数据显示,它在函数调用和 Agent 相关基准上的表现,已经接近部分 7B 乃至 14B 参数的更大模型。
把智能体放在本地运行,最直接的好处是数据不出设备,规避了隐私合规风险;同时也省去了按调用量付费的云端 API 开销。Liquid AI 还提供了量化版本,进一步压低内存需求,让更多入门级硬件也能流畅运行。
LFM2.5-2.6B 的权重已经开放,开发者可以直接从 Hugging Face 仓库下载,结合主流推理框架进行本地部署。对于想低成本构建 Agent 产品、或者做边缘 AI 实验的团队来说,这是一个值得关注的选择。
当模型足够轻、足够快、足够便宜,本地智能体才有机会从少数人的实验变成默认的部署方式。LFM2.5-2.6B 正是朝这个方向迈出的一步。
原文链接:Hugging Face
本文由前途科技编辑整理
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断