MiniCPM-OCR 登陆 Apple Silicon
💡 灵机 AI 深度洞见与核心提炼
MiniCPM-OCR 1.0(1.3B)和 MiniCPM-OCR Jev(2B)现已可在 Apple Silicon 上运行,这得益于我们与 @neywalabs 团队的合作!🚀
在 M5 Max 上,OCR 1.0 达到 6,339 tok/s 的 prefill 和 220–235 tok/s 的 decode,而 Jev 仅以 62.9 ms 的中位延迟完成 OCR 结果。
查看博客:https://runnativ.ai/blog/minicpm-ocr-on-mlx-vlm
信源媒体:X:面壁智能 OpenBMB (@OpenBMB)
访问出处网页 ↗