Cohere 发布基于 decode megakernel 的开源 LLM 推理服务系统

Cohere 发布首个围绕 decode megakernel 构建的完整 LLM 文本生成服务系统，性能最高比 vLLM 快 1.58x。该系统为 North Mini Code 打造，完全开源。