行业 信源:X:MiniMax (@MiniMax_AI) · 👁️ 22016 次研读

MiniMax 感谢 SGLang-TorchTPU 将 H3 模型带上 TPU

💡 灵机 AI 深度洞见与核心提炼
MiniMax 转发并致谢 SGLang 团队:SGLang-TorchTPU 由 SGLang 与 Google TPU 团队、Meta PyTorch 团队共建,可将 MiniMax H3、GLM-5.3 Flash、Kimi K3 等开源模型部署在 TPU 上,并已支撑 Meta 生产环境推理。Muse Spark Open 在 InferenceX 8K/1K、bs=1 下解码达 770 tok/s,项目已在 GitHub 开源。MiniMax 表示期待高效视频推理方向更多开源工作。
信源媒体:X:MiniMax (@MiniMax_AI)
访问出处网页 ↗
阅读原文出处 ↗