天数智芯天垓300实测对标H200：国产GPU全面竞逐系统与生态

在特定实测场景中达到英伟达H200的性能水平后，国产GPU的竞争正加速转向系统架构效率、软件适配与实际工程交付。

在近日举办的天数智芯媒体开放日上，最新一代旗舰GPU天垓300与H200的实机对比成为焦点。通过GPU与专用芯片组合异构系统，天数智芯探索了全新的推理分工模式，并在软件栈中引入AI Agent与Skills机制，试图破解客户部署与算子优化的工程壁垒。

实测吞吐领先H200：硬件底座步入高端区间

第三方测试数据显示，在典型Prefill与Decode（PD）分离部署架构下，天垓300折算单卡的端到端吞吐量达到了H200的1.05倍。这意味着国产通用GPU在特定高端推理负载中，已具备与主流旗舰芯片直接抗衡的底气。

天数智芯性能实验室公布的数据还表明：

• 在GLM-5.3的64K长上下文场景下，同等用户体验标准中，天垓300的MoE吞吐达到H200的1.15倍；
• 在8K至128K长上下文的AI Agent场景中，首字延迟（TTFT）较H200降低约10%至30%。

性能突破的关键在于架构层面的专门优化。基于天枢架构的天垓300单卡显存达到144GB，针对Attention与MoE等计算特征进行了定制：Tensor Core与Vector Core支持并行处理矩阵与向量操作，并针对MoE小规模矩阵与跨卡通信协同进行了深度调优，大幅减少计算部件之间的等待开销。

异构分工：AFD架构探索推理极效

大模型推理需求的爆发催生了各类专用芯片（如LPU），也让计算流程进一步细化。Prefill偏向计算密集，Decode更易受内存带宽与启动延迟制约，Attention与FFN更是呈现出不同的资源诉求。

针对该趋势，天数智芯提出了AFD分离方案：在常规PD分离基础上，将Decode阶段进一步拆解，由天垓300承担Prefill全流程以及Decode阶段的Attention计算，合作厂商的专用XPU则专攻FFN专家网络。

在运行中，GPU将中间激活数据传递给XPU处理并返回，最终实现Decode推理延迟降低60%。天数智芯强调，专用硬件适合处理特定稳定负载，而通用GPU（GPGPU）的灵活性则能有效应对算法与精度的持续迭代，避免客户设备被单一硬件路径锁定。

引入Agent重构软件栈：交付周期缩短三分之二

异构系统越复杂，软件栈承担的调优工作就越重。天数智芯目前已服务超过380家客户，为了解决过去依赖专家逐一排障的交付瓶颈，其软件栈全面引入了AI Agent与Skills模块。

在复杂的PD分离部署中，Agent通过串联Skills自动化推进实例配置、KV Cache打通与请求调度。演示案例显示，完整模型服务的部署耗时从约1小时压缩至20分钟，人工操作简化至仅需两次目标输入。

同时，Agent可结合性能工具自动诊断计算、访存或通信瓶颈，在Kernel层面协同FlyDSL自动化生成候选实现、编译并完成测试，极大降低了开发者的迁移与适配成本。

端云协同：端侧TY1200实测超Thor

除云端天垓300外，天数智芯还首次公布了端侧算力产品彤央系列的实测进展，直接对标英伟达Thor T5000。

提供300 TOPS INT8稠密算力的彤央TY1200展现出显著性能优势：在Qwen系列模型上吞吐达到Thor T5000的1.2倍；在英伟达开源的世界模型Cosmos-R2-8B测试中，性能达到Thor的1.8倍。现场还展示了其在本地完成5秒离线视频生成、本地合同审计以及驱动机器鸭进行物理仿真训练的实际案例。