论文 信源:X:邵猛 (@shao__meng) · 👁️ 24241 次研读

DeepSeek 开源推理框架 DeepInfer 并发布技术报告,公开大规模部署细节

💡 灵机 AI 深度洞见与核心提炼
DeepSeek 开源支撑其线上生产服务的高性能推理框架 DeepInfer,基于 Apache 2.0 许可证,并同步发布技术报告。框架集成 FlashMLA、DeepGEMM、DeepEP 等此前开源内核,加上调度、并行、DSpark 投机解码等系统层实现,同时支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU。
信源媒体:X:邵猛 (@shao__meng)
访问出处网页 ↗
阅读原文出处 ↗