英伟达开源工作流优化框架 SoL-Pi,利用 AI 自我迭代机制排查智能体运行中的冗余消耗。通过从 152 个自动化实验中筛选出的四大核心机制,该工具最高降低了 64% 的 Token 消耗,API 成本减少过半,每小时可为企业节省多达 13.5 美元。
在大规模多智能体(Agent)协作的场景中,任务常需要连续运行数天。长周期的代价显而易见:上下文历史记录日益膨胀,工具调用越来越复杂,每次触发大语言模型都要重复读取海量冗余数据,造成大量的 Token 浪费。
针对这一痛点,NVIDIA 开源了一套用于提升 AI 智能体运行效率的优化框架——SoL-Pi。该项目基于开源框架 Pi 改造,核心逻辑是让 AI 充当自身工作流的监工,找出并修复执行环节中的低效步骤。
实际评测表明,SoL-Pi 可使 Token 消耗最高减少 64%,API 调用成本降低 50% 至 54%,在典型开发场景中每小时能节省 8.75 到 13.5 美元。
让 AI 递归自我改进(RSI)虽然前景广阔,但若盲目尝试,超过 90% 的迭代都会失败,试错过程本身就会烧掉巨额预算。
NVIDIA 采用了自动化筛选策略:先由模型生成 152 个优化流程的设想,再放入自动化沙盒(即“自动研究循环”)中严苛筛选。在管理架构上,团队测试了三种模式:
借助“共享快闪模式”,团队跑完了 152 组实验,最终仅有 4 个高收益机制脱颖而出,构成了 SoL-Pi 的底层支柱。
传统 Agent 修改完代码后,往往需要先决策“是否执行测试”,再触发终端指令,增加了一次多余的模型推理。SoL-Pi 将“修改代码 + 运行测试”合并为单一固定动作序列,直接砍掉了多余的决策步骤。

受限于 Transformer 机制,智能体的历史上下文会线性膨胀。系统将长任务切分为独立子模块,每完成一步便将历史压缩为结构化摘要,仅保留核心结论;日常仅查阅摘要,需要细节时再按需回溯原始记录。

工具调用经常会吐出数百行日志,塞入上下文窗口会持续挤占空间。SoL-Pi 将这些输出离线保存在本地,只在上下文中记录简短摘要和索引链接,模型需要深入分析时再精准拉取对应片段。

以往由高成本主模型全量通读并排查故障日志。优化后,系统先调用成本极低的小模型提取包含溯源锚点的诊断报告,主模型仅需审阅简报,必要时核对原文证据即可。

为了检验性能,NVIDIA 构建了包含 535 个可验证环境的基准:包括 495 个来自 GitHub 开源仓库的真实 Bug(还原历史状态且隐藏修复方案),以及 40 个开放式探索沙盒任务。

测试对比了原生 Agent 方案、开源底座 Pi 与 SoL-Pi:

NVIDIA 在论文中指出,追求效率本身就是一种自递归进化(Efficiency for efficiency)。降低运行成本所腾出的计算预算,能够反哺给更大规模的探索实验。目前该项目代码已在 SoL-Pi 官方页面 正式开源。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断