灵
灵机 FeedHub
🌙
← 返回 AI 资讯大厅
📰 今日早报 ↗
← 返回 AI 资讯大厅
11月4日 08:00
产品
信源:
vLLM 官方博客(RSS)
· 👁️ 28465 次研读
Buoyant 开源 Kinference:面向 vLLM 与 Kubernetes 的推理控制平面
💡 灵机 AI 深度洞见与核心提炼
Buoyant 开源 Kinference,一个为 vLLM 与 Kubernetes 构建可扩展推理平台的控制平面,支持 token 限流、租户用量与成本追踪、智能负载均衡和推理策略。
信源媒体:
vLLM 官方博客(RSS)
访问出处网页 ↗
阅读原文出处 ↗
📋 复制分享链接
← 返回大厅