前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/10.14 · 01:05/2 MIN/编译自 Hugging Face/0 阅读

Liquid AI推出LFM2.5端侧模型:兼顾高吞吐与隐私保护

Liquid AI推出端侧模型LFM2.5-24B-A2B,专为边缘计算与端侧AI智能体打造。该模型通过混合专家架构实现高吞吐低延迟,让消费级设备无需依赖云端即可本地运行复杂的AI智能体任务。

Liquid AI 宣布推出全新的端侧混合专家模型 LFM2.5-24B-A2B。该模型专为端侧设备与边缘计算场景设计,旨在为本地运行的 AI 智能体提供低延迟、高吞吐和高隐私保障的计算能力。

长期以来,部署具备多步规划和工具调用能力的 AI 智能体通常依赖超大规模的云端大语言模型。这不仅带来显著的网络延迟和使用成本,在涉及敏感数据时还存在数据泄露隐患。LFM2.5-24B-A2B 的发布,正是为了解决端侧算力受限与模型能力需求之间的矛盾。

混合架构与端侧优化

LFM2.5-24B-A2B 总参数量为 240 亿(24B),但采用了稀疏激活机制,单次推理仅激活约 20 亿(2B)参数。这种「总规模大、激活参数小」的架构设计,既保留了模型在逻辑推理与指令遵循上的大容量表达能力,又大幅降低了端侧设备的计算负载和发热量。

结合 Liquid 基础模型(Liquid Foundation Models)特有的非 Transformer 混合架构,LFM2.5-24B-A2B 在长上下文处理和连续流式推理中表现出极高的效率。相较于同等规模的传统密集模型,其首字生成延迟(TTFT)显著下降,内存占用和带宽需求也得到大幅精简。

适配终端智能体工作流

该模型在设计之初便针对智能体任务进行了定向优化,涵盖复杂指令解析、函数调用(Function Calling)以及多轮状态追踪。开发者可以在配备主流 GPU、高规格集成显卡或专有 NPU 的个人 PC 及边缘设备上直接加载该模型。

在本地部署环境下,AI 智能体能够直接与操作系统的文件管理、浏览器自动化脚本以及私有数据库无缝交互,所有 Token 计算均在本地芯片内完成,彻底杜绝数据上传云端的合规风险。

目前,LFM2.5-24B-A2B 相关权重与评估套件已正式在 Hugging Face 平台开放,支持开发者基于现有框架进行本地量化与边缘部署测试。

标签:端侧AIAI智能体开源模型边缘计算

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

//

24小时热榜

国内首个人工智能全产业链评测基准“求索”4.0发布
TOP1

国内首个人工智能全产业链评测基准“求索”4.0发布

AI批量造星冲击娱乐业,真人明星还有何价值?
TOP2

AI批量造星冲击娱乐业,真人明星还有何价值?

3

从电视到AI短剧:内容供给骤增下的注意力争夺战

19小时前
从电视到AI短剧:内容供给骤增下的注意力争夺战
4

华为哈勃投资视塔机器人,开发光子晶体柔性电子皮肤

20小时前
华为哈勃投资视塔机器人,开发光子晶体柔性电子皮肤
5

陪审团裁定Arm违约,高通仅获2美元象征性赔偿

4小时前
陪审团裁定Arm违约,高通仅获2美元象征性赔偿
6

Higgsfield借助新模型将AI视频时长拉长至10分钟以上

16小时前
Higgsfield借助新模型将AI视频时长拉长至10分钟以上
7

138场工业级落地实录:企业Agent该如何打破工程困局

19小时前
138场工业级落地实录:企业Agent该如何打破工程困局
8

广州“第一芯”粤芯半导体上市,市值突破1200亿元

19小时前
广州“第一芯”粤芯半导体上市,市值突破1200亿元
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断