面壁 MiniCPM-V 4.7 在 iPhone 18 Pro Max 上实现 20.51 tokens/sec 本地多模态推理
💡 灵机 AI 深度洞见与核心提炼
OpenBMB 宣布 MiniCPM-V 4.7 在 iPhone 18 Pro Max(12GB)上实现平均 20.51 tokens/sec 的本地解码速度,较未优化的 SSD 专家加载基线提速 6.07×。提速来自 Lookahead Expert Scheduling(LES)、优化专家加载、细粒度量化与 DSpark 投机解码,GitHub 和 Hugging Face 已提供下载。
信源媒体:X:面壁智能 OpenBMB (@OpenBMB)
访问出处网页 ↗