技巧 信源:SemiAnalysis 长文 RSS(RSS) · 👁️ 19458 次研读

SemiAnalysis 实测 Vera Rubin NVL72 智能体推理 性能每美元最高达 GB300 约 67 倍

SemiAnalysis 实测 Vera Rubin NVL72 智能体推理 性能每美元最高达 GB300 约 67 倍
💡 灵机 AI 深度洞见与核心提炼
SemiAnalysis 用自有 AgentX 基准发布 Rubin 平台的首批智能体推理实测结果,在 170 TPS、TRTLLM NVFP4 场景下,Vera Rubin NVL72 单位 TCO 总吞吐约为 GB300 Dynamo TRTLLM 的 67 倍,在 60-100 TPS 常用区间为 1.4-3 倍。
信源媒体:SemiAnalysis 长文 RSS(RSS)
访问出处网页 ↗
阅读原文出处 ↗