产品 信源:Hacker News 热门(buzzing.cc 中文翻译) · 👁️ 47415 次研读

Show HN:Janus——用 Go 单二进制在 AMD/Intel/NVIDIA 上通过 Vulkan 运行 GGUF 模型

💡 灵机 AI 深度洞见与核心提炼
Janus 是一个 Go 单二进制本地 LLM 服务器,通过 Vulkan 在 AMD/Intel/NVIDIA GPU 或 CPU 上运行 .gguf 模型,并暴露 OpenAI 兼容 API,无需 Python、Docker 或 Ollama。
信源媒体:Hacker News 热门(buzzing.cc 中文翻译)
访问出处网页 ↗
阅读原文出处 ↗