前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
技术/09.15 · 00:00/4 MIN/编译自 雷锋网/2 阅读

英伟达开源 SoL-Pi,Agent工作流每小时省13.5美元

英伟达开源工作流优化框架 SoL-Pi,利用 AI 自我迭代机制排查智能体运行中的冗余消耗。通过从 152 个自动化实验中筛选出的四大核心机制,该工具最高降低了 64% 的 Token 消耗,API 成本减少过半,每小时可为企业节省多达 13.5 美元。

在大规模多智能体(Agent)协作的场景中,任务常需要连续运行数天。长周期的代价显而易见:上下文历史记录日益膨胀,工具调用越来越复杂,每次触发大语言模型都要重复读取海量冗余数据,造成大量的 Token 浪费。

针对这一痛点,NVIDIA 开源了一套用于提升 AI 智能体运行效率的优化框架——SoL-Pi。该项目基于开源框架 Pi 改造,核心逻辑是让 AI 充当自身工作流的监工,找出并修复执行环节中的低效步骤。

实际评测表明,SoL-Pi 可使 Token 消耗最高减少 64%,API 调用成本降低 50% 至 54%,在典型开发场景中每小时能节省 8.75 到 13.5 美元。

从 152 个想法中淘汰筛选

让 AI 递归自我改进(RSI)虽然前景广阔,但若盲目尝试,超过 90% 的迭代都会失败,试错过程本身就会烧掉巨额预算。

NVIDIA 采用了自动化筛选策略:先由模型生成 152 个优化流程的设想,再放入自动化沙盒(即“自动研究循环”)中严苛筛选。在管理架构上,团队测试了三种模式:

  1. 计划经济模式:由主模型定死每一步骤,缺乏自适应弹性,最早被淘汰;
  2. 中心化主管模式:由超级主管 AI 现场编码、分发任务并动态调整,但主管模型自身代码库会快速膨胀失控;
  3. 共享快闪模式:全系统仅维护极简工作模板,每个实验启动时复制一份副本并自由修改,实验结束后直接销毁临时调度逻辑。

借助“共享快闪模式”,团队跑完了 152 组实验,最终仅有 4 个高收益机制脱颖而出,构成了 SoL-Pi 的底层支柱。

四大核心优化机制

机制 1:动作融合

传统 Agent 修改完代码后,往往需要先决策“是否执行测试”,再触发终端指令,增加了一次多余的模型推理。SoL-Pi 将“修改代码 + 运行测试”合并为单一固定动作序列,直接砍掉了多余的决策步骤。

动作融合机制

机制 2:在线上下文压缩

受限于 Transformer 机制,智能体的历史上下文会线性膨胀。系统将长任务切分为独立子模块,每完成一步便将历史压缩为结构化摘要,仅保留核心结论;日常仅查阅摘要,需要细节时再按需回溯原始记录。

在线上下文压缩

机制 3:观察包(Observation Bundling)

工具调用经常会吐出数百行日志,塞入上下文窗口会持续挤占空间。SoL-Pi 将这些输出离线保存在本地,只在上下文中记录简短摘要和索引链接,模型需要深入分析时再精准拉取对应片段。

观察包机制

机制 4:证据保存型简化器

以往由高成本主模型全量通读并排查故障日志。优化后,系统先调用成本极低的小模型提取包含溯源锚点的诊断报告,主模型仅需审阅简报,必要时核对原文证据即可。

证据保存型简化器

535 个测试环境实测验证

为了检验性能,NVIDIA 构建了包含 535 个可验证环境的基准:包括 495 个来自 GitHub 开源仓库的真实 Bug(还原历史状态且隐藏修复方案),以及 40 个开放式探索沙盒任务。

多环境对比测试

测试对比了原生 Agent 方案、开源底座 Pi 与 SoL-Pi:

  • 对比开源底座 Pi:SoL-Pi 消耗的 Token 减少了 45% 至 49%,整体开发成本降低约三分之一;
  • 对比模型原生代理方案:Token 消耗最高下降 64%,API 费用最多节省 54%。

评测数据展示

NVIDIA 在论文中指出,追求效率本身就是一种自递归进化(Efficiency for efficiency)。降低运行成本所腾出的计算预算,能够反哺给更大规模的探索实验。目前该项目代码已在 SoL-Pi 官方页面 正式开源。

标签:NVIDIAAI 智能体token开源大语言模型

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

你的 Agent 一次跑对下次还行吗:Pass^k 把一致性差距砍到一半
置顶

你的 Agent 一次跑对下次还行吗:Pass^k 把一致性差距砍到一半

混沌工程从支付带到 AI Agent:三个假设需要改写,四条纪律可以直接抄
置顶

混沌工程从支付带到 AI Agent:三个假设需要改写,四条纪律可以直接抄

前途科技前途科技
服务关于快讯技术商业报告
前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
拆解快手柯南 AI:Claude Agent SDK 之上的四条稳定性硬约束
置顶

拆解快手柯南 AI:Claude Agent SDK 之上的四条稳定性硬约束

//

24小时热榜

12分钟跑完5亿元地产投资模型:Claude 颠覆了什么
TOP1

12分钟跑完5亿元地产投资模型:Claude 颠覆了什么

AI竞争的终局不是做大模型,而是争夺基建与权力
TOP2

AI竞争的终局不是做大模型,而是争夺基建与权力

3

打造开源AI音视频编辑器:彻底搞定音画漂移痛点

3小时前
打造开源AI音视频编辑器:彻底搞定音画漂移痛点
4

Anthropic:应通过立法强制推行AI“紧急开关”

23小时前
Anthropic:应通过立法强制推行AI“紧急开关”
5

别等想清楚再动手:用AI拆解庞大任务的“最小第一步”

3小时前
别等想清楚再动手:用AI拆解庞大任务的“最小第一步”
6

AI在狂飙,但人类习惯走得很慢

3小时前
AI在狂飙,但人类习惯走得很慢
7

逃去超市当收银员后,我算出了自己被机器人淘汰的倒计时

3小时前
逃去超市当收银员后,我算出了自己被机器人淘汰的倒计时
8

软件正在吃掉自己:当所有专业都被冠上“产品”前缀

3小时前
软件正在吃掉自己:当所有专业都被冠上“产品”前缀
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断