面壁智能 MiniCPM-V 4.7 开源上线 ModelScope,35B-A3B MoE 多模态模型可在 iPhone 上以 13+ tokens/s 端侧无损推理
💡 灵机 AI 深度洞见与核心提炼
面壁智能 MiniCPM-V 4.7 已在 ModelScope 开源,是 35B-A3B 的 MoE 多模态模型,采用 Apache 2.0 协议。官方称其可在 iPhone 17 Pro Max 上以 13+ tokens/s 流畅运行端侧无损推理,Instruct 模式下整体得分高于 Qwen3.6 35B-A3B 且推理时间更短;支持 4x/16x 视觉 token 压缩,提供 35B-A3B 和 1B 两种规格及 FP8、GPTQ、AWQ、BNB、GGUF 变体,兼容 SGLang、vLLM、llama.cpp、Ollama、SWIFT 和 LLaMA-Factory,可运行于 iOS、Android 和 HarmonyOS,并支持 Rockchip、Houmo、Intel、AMD、Arm 的 day-0 适配。
信源媒体:X:面壁智能 OpenBMB (@OpenBMB)
访问出处网页 ↗