论文 信源:X:UCSD Hao AI Lab (@haoailab) · 👁️ 11921 次研读

JetSpec++ 在 Qwen3.8-27B 上提升投机解码接受率

💡 灵机 AI 深度洞见与核心提炼
JetSpec++ 在 Qwen3.8-27B 上把收益转向接受率:相比 DSpark,每轮接受 token 数提升 22%,而 8B 上仅提升 6%(GSM8K,按实际服务配置)。模型仅在 16 大小的块上训练,却能外推到 32 大小的块:8B 在 MATH-500 上每轮 14.55 token、27B 为 14.05,DSpark 则降至 8.66 和 8.49。
信源媒体:X:UCSD Hao AI Lab (@haoailab)
访问出处网页 ↗
阅读原文出处 ↗