产品 信源:Hugging Face 官方团队博客 · 👁️ 21373 次研读

PyTorch 2.15 的 MPS 后端大更新:FP8 上 Mac,MoE 解码提速 5-6.5 倍

💡 灵机 AI 深度洞见与核心提炼
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新,将 FP8(torch.float8_e4m3fn)带到 Mac,并通过 Metal 内核加速语言模型解码。
信源媒体:Hugging Face 官方团队博客
访问出处网页 ↗
阅读原文出处 ↗