DeepSeek-V4.1-Flash 的 KV Cache 压缩

极致的压榨 KV Cache Compression DeepSeek-V4.1-Flash 的 Causal Encoder-Decoder 改变了什么？ 在常规 Transformer 中，各层根据进入本层的 hidden states，生成自己的 K 和 V。DeepSeek-V4.1-Flash 的 Causal Encoder-Decoder 调整了这一依赖关系：decoder 的 global KV 直接由 causal encoder 的最终输出生成。 因此，构建 decoder 的 global KV，无需让整段 prompt 经过所有 decoder 层。这为减少 prefill，也就是生成回答前的输入处理计算，提供了基础。