Stanford 前缀滑动法让长推理提速 3 倍

Stanford 新研究提出 Prefix Sliding，在生成时丢弃推理轨迹中间 token，仅保留含指令与工具的前缀及末尾数千 token，使内存占用封顶。无需训练即可让现有模型提速 3 倍且性能持平全注意力，并支持超过 100，000 token 的 RL rollout。论文：arxiv.org/abs/2608.26070。