StepFun 展示 Step 5 Preview 在 NVIDIA GB300 上的推理性能
💡 灵机 AI 深度洞见与核心提炼
StepFun 表示 Step 5 Preview 在 NVIDIA GB300 上推理表现出色,并期待看到开发者用它构建的应用。其转发的 NVIDIA 内容称该模型是 StepFun 最大的开源权重发布,600B MoE 架构,可处理最长 24 小时的 Agent 任务,在 GB300 上用 NVFP4 达到近 8K tokens/sec/GPU,提供 NVFP4 checkpoint(https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4),并支持 SGLang、vLLM、NeMo Automodel 后训练和 NVIDIA NIM 一键部署。
信源媒体:X:阶跃星辰 StepFun (@StepFun_ai)
访问出处网页 ↗