Intel 论文提出 BITCOS 布局,三元大语言模型突破 1.58 比特存储障碍

💡 灵机 AI 深度洞见与核心提炼
Intel 研究人员提出 BITCOS,一种由存在位图加压缩符号向量组成的三元权重布局,按零密度 z 计每权重仅需 2−z 比特。实测 29 个 SOTA 三元模型的零密度为 29.7%-51.5%,其中 26 个在 BITCOS 下比五 trit 打包存储更紧凑,最稀疏模型达 1.485 比特每权重。
信源媒体:Hacker News 热门(buzzing.cc 中文翻译)
访问出处网页 ↗