产品 信源:Hacker News:AI 热帖 · 👁️ 42997 次研读

Magnitude(YC S25)发布可自优化的开源 Agent 推理引擎

💡 灵机 AI 深度洞见与核心提炼
Magnitude(YC S25)发布开源推理引擎,在本地设备上编译调优内核,宣称比 llama.cpp 快最多 2x(Metal 上 decode 快 92%,CUDA 上快 19%)。
信源媒体:Hacker News:AI 热帖
访问出处网页 ↗
阅读原文出处 ↗