行业 信源:X:Rohan Paul (@rohanpaul_ai) · 👁️ 17894 次研读

General Compute 宣布与 Positron 合作集群级部署,GPU 与专用芯片分工处理 prefill 和 decode

💡 灵机 AI 深度洞见与核心提炼
General Compute 宣布将 @positron_ai 作为下一个合作伙伴进行集群规模部署,硬件于 2027 年 Q1 上线,目标是让开源模型获得更快的推理。作者 Rohan Paul 解释其做法是 prefill 在 GPU 上运行、逐 token 生成交给 Positron 的内存优先硬件,对客户呈现为一个端点和一套 SLA;Positron 的芯片专注内存速度且不依赖 HBM。
信源媒体:X:Rohan Paul (@rohanpaul_ai)
访问出处网页 ↗
阅读原文出处 ↗