前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
产品/09.03 · 00:00/5 MIN/编译自 Gerardo Delgado/0 阅读

NVIDIA加码本地AI,RTX Spark开售

IFA 2026 上 NVIDIA 推出 PAIR 本地 AI 路由工具,RTX Spark PC 确定十月开售。本地推理性能经优化最高提升 1.9 倍。

前沿 AI 正在走向本地化。在 IFA 2026 上,NVIDIA 联合 Microsoft 及合作伙伴,为 NVIDIA 硬件带来更快的推理速度和更易上手的本地 AI 智能体工具。10 月,紧凑型 NVIDIA RTX Spark Windows PC 将正式开售,让 AI 爱好者、开发者和创作者有更多在本地安全运行智能体的选择。

本次发布要点:

  • NVIDIA GPU 的简化本地 AI 支持将登陆 Hermes Agent、OpenClaw 和 Perplexity Portable Computer。
  • llama.cpp 与 vLLM 的优化现已上线,本地推理性能最高提升 1.9 倍,可通过 LM Studio 和 Ollama 使用。
  • NVIDIA PAIR——个人 AI 路由器工具,可把 AI 推理任务智能分配到本地网络中的闲置 PC。
  • NVIDIA RTX Spark 将于 10 月上市,联想、宏碁等厂商会推出新 Windows PC;Electronic Arts、Embark 和 Ubisoft 也加入内容生态。

8 月本地 AI 生态也很热闹:可运行在 RTX PC、RTX PRO 工作站、DGX Spark 与 Jetson 上的 30B 参数模型 Nemotron 3.5 Lightning 已发布;Z.ai 的 GLM-5.3-Flash 把智能体 AI 带上 DGX Station;Qwen 推出开放权重多模态 MoE 模型 Qwen3.8-Flash-Next 和面向 NVIDIA GPU 本地智能体与编程场景的 Qwen3.8-27B;LTX 2.5 视频生成模型针对 RTX GPU、DGX Spark/Station 做了 NVFP4、FastVideo 和 ComfyUI 增强;MiniMax 开放带同步音频的视频生成模型 MiniMax-H3,蒸馏版 FastH3 性能提升 7 倍;Meta 发布 30B 开放权重编码与智能体模型 Muse Glimmer;DeepSeek v4 Flash 为 284B MoE 模型,可跑在双 DGX Spark 集群和 DGX Station 上。

本地智能体,配置更简单

过去在本地跑通一个 AI 智能体并不容易:要挑模型、找推理服务、调量化参数,还要不断更新。RTX 和 DGX 平台上这种摩擦正在消失。

Perplexity Portable Computer 已支持搭载至少 24GB 显存的 NVIDIA RTX GPU(Linux 系统),Windows 支持即将到来。用户可以在本地跑完完整工作流而不消耗云端额度;需要更多研究或推理时,再选择把部分任务交给云端的 15 款以上前沿模型。内容发送前系统会请求许可,敏感信息可以留在设备上。

Nous Research 开发的通用智能体 Hermes Agent 已被数百万人使用,现在在 Windows 上提供一键本地模型配置:自动检测 NVIDIA GPU、选择合适的模型与配置,并调用内置于 llama.cpp 的 NVIDIA 推理优化,省去手动下载和调参。Linux 支持即将上线。

GitHub 上最大的 AI 项目、拥有超过 38 万 Star 的 OpenClaw,由 NVIDIA、Microsoft 和 OpenClaw 团队合作,在 Windows 上简化本地模型部署。OpenClaw Windows App 可让用户在任意至少 24GB 显存的 RTX GPU 上快速跑起优化后的本地模型。

推理加速,本地智能体更跟手

RTX 本地 AI 推理性能图

llama.cpp 通过内核优化、增强投机解码和更快的预填充,在 GeForce RTX 5090 上吞吐量最高提升 1.9 倍;vLLM 在 RTX PRO 6000 Blackwell 工作站版上提升 1.2 倍,在双 DGX Spark 集群上最高提升 1.4 倍。FlashInfer 的 XQA 注意力内核与后端优化同时加速了这些平台。上述收益已合入 llama.cpp 与 vLLM 后端,LM Studio 和 Ollama 用户也可以直接体验。

NVIDIA PAIR:把闲置 PC 变成算力池

美国超过一半家庭拥有两台以上 PC,白天大部分算力处于闲置。NVIDIA PAIR 是免费开源工具,能把这些设备组织起来一起跑本地 AI。它会自动发现局域网内的兼容 PC,将互相独立的推理请求调度到空闲系统,兼容 Ollama 和 LM Studio,并能在设备加入或离开时自动调整。PAIR beta 现支持 Windows、macOS 和 Linux,涵盖 GeForce RTX 20 系列及以上 GPU、RTX PRO 工作站(Turing 架构起)、DGX Spark,以及 Apple M4 或更新芯片。

标签:NVIDIARTX SparkAI 智能体

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

编码 Agent 更靠谱的 5 层护栏:Cole Medin 11 条清单的落地版
置顶

编码 Agent 更靠谱的 5 层护栏:Cole Medin 11 条清单的落地版

Agent OS 的三种入口:为什么阿里、腾讯、AWS 押了三条不同的路
置顶

Agent OS 的三种入口:为什么阿里、腾讯、AWS 押了三条不同的路

前途科技前途科技
服务关于快讯技术商业报告
前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款

RTX Spark Windows PC:10 月开售

NVIDIA RTX Spark 将于今年 10 月与消费者见面。宏碁在会上展示了紧凑型桌面 RTX Spark 概念机,联想发布 Yoga Pro 9n 和 Yoga 9n 二合一。RTX Spark 配备 1 Petaflop RTX Blackwell GPU、最高 128GB 统一内存和 20 核 Grace CPU,可在轻薄本和紧凑台式机中提供高性能 AI 算力,并配合 Windows Agent 框架,让智能体在操作系统级管控下安全后台运行。游戏方面,Electronic Arts、Embark 和 Ubisoft 也在 Gamescom 加入 RTX Spark 支持阵容,与此前公布支持的 KRAFTON、NetEase、Riot Games 和 Xbox 等厂商共同扩展内容生态。

此外,CyberLink PhotoDirector 365 的 AI PC Mode 将随 RTX Spark 在 10 月推出,内置生成式编辑、图像增强、物体移除、背景替换、人像精修等本地 AI 工具,并可在本地与云端处理之间灵活切换。在 NVIDIA GPU 上,PhotoDirector 通过 TensorRT-RTX 和 FP8 加速本地推理。

特努斯上任第一天:苹果悄悄放弃了自研大模型这条路
置顶

特努斯上任第一天:苹果悄悄放弃了自研大模型这条路

//

24小时热榜

OpenAI 发布 GPT-6 Astra,网络安全能力首达关键级
TOP1

OpenAI 发布 GPT-6 Astra,网络安全能力首达关键级

OpenAI斥资10亿美元助一线防御者抵御AI攻击
TOP2

OpenAI斥资10亿美元助一线防御者抵御AI攻击

3

编码 Agent 更靠谱的 5 层护栏:Cole Medin 11 条清单的落地版

23小时前
编码 Agent 更靠谱的 5 层护栏:Cole Medin 11 条清单的落地版
4

OpenAI:Astra 成为首个关键级网络安全模型

1天前
OpenAI:Astra 成为首个关键级网络安全模型
5

ChatGPT 提升答案质量,批判性思维激发原创力

1天前
ChatGPT 提升答案质量,批判性思维激发原创力
6

WebLLM:用 WebGPU 把大模型跑进浏览器

1天前
WebLLM:用 WebGPU 把大模型跑进浏览器
7

Agent OS 的三种入口:为什么阿里、腾讯、AWS 押了三条不同的路

1天前
Agent OS 的三种入口:为什么阿里、腾讯、AWS 押了三条不同的路
8

智元机器人夺 18 枚金牌:量产机在运动会创纪录

1天前
智元机器人夺 18 枚金牌:量产机在运动会创纪录
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断