MiniCPM-o 4.5 经 TyloQuant MFQ 量化登陆苹果芯片
💡 灵机 AI 深度洞见与核心提炼
面壁智能 MiniCPM-o 4.5 现可通过 TyloQuant MFQ 量化版在 Apple Silicon 上高效运行,支持本地多模态推理。TyloQuant MFQ 采用神经元感知的混合格式量化,在降低内存占用的同时保留视觉、音频与实时交互能力,并提供多种量化等级及 Metal/CUDA 内核加速。
信源媒体:X:面壁智能 OpenBMB (@OpenBMB)
访问出处网页 ↗