信源:X:面壁智能 OpenBMB (@OpenBMB) · 👁️ 21935 次研读

FIT-GGUF 为 MiniCPM5-2B 带来可控尺寸混合精度量化

💡 灵机 AI 深度洞见与核心提炼
FIT-GGUF 为 MiniCPM5-2B 提供可控尺寸的混合精度量化,用户可设定目标文件大小或保真度档位,由工具自动分配各张量精度并预测、生成、验证最终 GGUF。
信源媒体:X:面壁智能 OpenBMB (@OpenBMB)
访问出处网页 ↗
阅读原文出处 ↗