前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
软件·互联网/10.02 · 15:34/3 MIN/编译自 梦晨/1 阅读

openJiuwen首发X-Router自演进模型路由技术

开源AI智能体平台openJiuwen发布X-Router自演进模型路由技术。通过任务复杂度画像与实时状态感知,动态分配端云大模型算力,实测在性能持平的同时降低最高51.4%的模型调用成本。

当用户向AI助手提出一个简单的翻译请求时,系统调用的可能是一个千亿参数、部署在昂贵云端算力上的大语言模型;而处理多轮代码推演与调试时,调用的还是同一个模型。目前绝大多数AI应用仍处于“单模型包打天下”的阶段,不仅造成算力浪费,也难以应对复杂的多模型混合调度需求。

针对这一痛点,由华为2012实验室、华为云等团队联合开源的AI智能体(Agent)平台 openJiuwen 正式推出了面向请求的智能决策路由引擎,并首发 x-router 自演进模型路由技术。

从“单模型”到“智能调度队伍”

现实场景中,智能体往往需要面对本地轻量模型、云端顶配模型以及垂直领域的专属模型。openJiuwen智能路由的目标是在Agent与模型之间增加一层动态决策机制,根据任务复杂度实时决策最优模型,实现成本与效果的综合平衡。

该系统主要具备三大核心能力:

  1. 精准能力画像:基于历史数据离线刻画每个模型在不同任务类型、难度、时延与成本上的表现,并支持在线动态刷新(更新时延优于1分钟),做到决策与模型调用解耦。
  2. 多维动态决策:评估输入不仅看任务本身的多轮上下文,还结合KV缓存亲和性、实时算力负载以及目标服务可用性,通过启发式算法进行多目标权衡,选择综合最优模型。
  3. 反馈驱动自演进:将决策算法设计为纯函数,状态独立外置。每次调用后的质量、时延与成本反馈会写回状态层,利用Contextual Bandit与轻量强化学习从实际运行中持续优化后续决策。

动态路由架构

突破单模选择:MoA协同与多形态部署

除了单一模型的挑选,该框架还向上支持 WorkSwarm 的 MoA(多模型协同) 编排。当遇到超高难度任务时,路由层可动态激发多个模型协同作答,并通过语义去重、质量筛选与冲突消解聚合成高质量结果。

在架构实现上,openJiuwen智能路由核心基于Rust开发,并提供PyO3 Python接口,具有轻量与高性能特征:

  • 端侧形态:单进程、内存态运行,内置轻量分类器(如Qwen3-0.6B),几乎无额外决策开销。
  • 云侧与混合形态:端侧处理轻量任务,复杂需求动态升级至云端大模型,保持决策逻辑一致。

模型路由实测表现

实测:成本最高削减超50%,效果几乎持平

在PinchBench全量147个任务评测中,x-router接入五级端云混合模型池进行验证:

  • 静态路由模式:相比全量调用云端强模型基线,模型调用成本降低25.7%,任务得分仅微降5.1%。
  • Bandit自演进模式:在反馈驱动下,任务得分回升至70.70%(与全云基线71.36%基本持平),总调用成本由$11.11降至$6.16,整体成本大幅削减44.6%。

在Terminal-Bench与LLMRouterBench评测中,基于三档模型池的成本优先模式下,系统在取得媲美顶尖模型95.2%成功率的前提下,调用成本降低达51.4%。

目前,openJiuwen智能路由已正式开源,支持开发者在端侧和云端灵活集成,以算法自演进机制加速Agent低成本规模化落地。

标签:AI智能体大语言模型开源模型路由

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

表格预测搬进上下文:NVIDIA Kumo Tabular 不训练不调参
置顶

表格预测搬进上下文:NVIDIA Kumo Tabular 不训练不调参

82亿美元买一份「负载说明书」:AMD 收购 World Labs 的真实标的
置顶

82亿美元买一份「负载说明书」:AMD 收购 World Labs 的真实标的

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
解码快 3.13 倍,端到端只有 1.56 倍:VLM 投机解码的天花板
置顶

解码快 3.13 倍,端到端只有 1.56 倍:VLM 投机解码的天花板

//

24小时热榜

Anthropic投1亿美元培训万人AI部署团队
TOP1

Anthropic投1亿美元培训万人AI部署团队

微软发布三款自研语音与实时转写AI模型
TOP2

微软发布三款自研语音与实时转写AI模型

3

Science最新研究:恐龙时代地球外壳曾发生多次快速侧滑

4小时前
Science最新研究:恐龙时代地球外壳曾发生多次快速侧滑
4

特斯拉推紧急脱离功能:充电时可强行挂挡驶离

4小时前
特斯拉推紧急脱离功能:充电时可强行挂挡驶离
5

欧洲经历历史性极端酷热,逾五成地区承受极强热压力

4小时前
欧洲经历历史性极端酷热,逾五成地区承受极强热压力
6

美官员质询英伟达:超11.5万颗AI芯片涉走私流入中国

4小时前
美官员质询英伟达:超11.5万颗AI芯片涉走私流入中国
7

欧盟拟将AWS与Azure列入数字市场法“守门人”

4小时前
欧盟拟将AWS与Azure列入数字市场法“守门人”
8

世卫组织:全球预期寿命基本恢复至疫情前水平

4小时前
世卫组织:全球预期寿命基本恢复至疫情前水平
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断