信源:X:马东锡 NLP (@dongxi_nlp) · 👁️ 44595 次研读

DeepSeek 推出 CED 压榨 KV caching

💡 灵机 AI 深度洞见与核心提炼
DeepSeek 带来 CED,通过跨层共享减少 global KV 的重复存储,极致压榨 KV caching 并减少 prefill 计算,目标是让模型又快又强。推文同时以调侃口吻对比另一家公司的表述风格。
信源媒体:X:马东锡 NLP (@dongxi_nlp)
访问出处网页 ↗
阅读原文出处 ↗