灵
灵机 FeedHub
🌙
← 返回 AI 资讯大厅
📰 今日早报 ↗
← 返回 AI 资讯大厅
10月26日 15:56
论文
信源:
MarkTechPost(RSS)
· 👁️ 24193 次研读
清华与港中文团队开源 AKV:面向 LLM 智能体的 KV cache 工程服务系统
💡 灵机 AI 深度洞见与核心提炼
清华大学与 CUHK 研究者开源 AKV,一个构建在 SGLang 上的 KV cache 工程服务系统,让智能体通过 Drop 和 Repos(RoPE 旋转重定位)操作丢弃或重排 KV 条目而不改写文本历史。
信源媒体:
MarkTechPost(RSS)
访问出处网页 ↗
阅读原文出处 ↗
📋 复制分享链接
← 返回大厅