GLM5.3 稀疏注意力如何影响 HBM 内存占用

SemiAnalysis 分析指出，稀疏注意力只在 SDPA 运算中降低 KV cache 的内存与带宽需求，并不减少整体内存容量占用，因为 top-k 选择仍需完整上下文驻留 HBM。