产品 信源:vLLM 官方博客(RSS) · 👁️ 14312 次研读

vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持
💡 灵机 AI 深度洞见与核心提炼
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。
信源媒体:vLLM 官方博客(RSS)
访问出处网页 ↗
阅读原文出处 ↗