模型 信源:X:面壁智能 OpenBMB (@OpenBMB) · 👁️ 12319 次研读

MiniCPM-V 4.7 推测解码达 370 tok/s

💡 灵机 AI 深度洞见与核心提炼
MiniCPM-V 4.7 实现 370 tokens/sec?!🔥 很高兴看到社区不断突破推测解码的极限。 特别感谢 @Tech2Wild 的整理!🚀
信源媒体:X:面壁智能 OpenBMB (@OpenBMB)
访问出处网页 ↗
阅读原文出处 ↗