JetSpec++ 将草稿时间移出关键路径,延迟显著降低
💡 灵机 AI 深度洞见与核心提炼
JetSpec++ 让草稿时间几乎移出关键路径,在 GSM8K 上 Qwen3-8B 每轮草稿-验证延迟从 DSpark 的 9.92 ms 降至 6.84 ms(草稿时间 3.76 ms→0.61 ms),Qwen3.8-27B 从 31.88 ms 降至 28.47 ms(4.46 ms→0.71 ms)。
信源媒体:X:UCSD Hao AI Lab (@haoailab)
访问出处网页 ↗