面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,3GB 内存可跑 13+ token/s
💡 灵机 AI 深度洞见与核心提炼
面壁智能于 10 月 13 日推出端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是该系列首个 MoE 模型,基于 LES 推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度。
信源媒体:IT之家·人工智能
访问出处网页 ↗