开源社区用 SGLang 限制性打分把本地决策推理做到单步 6 毫秒

AI 架构专家 @_avichawla 公开一份本地实测指南，用完全开源方案在消费级显卡上复刻无声决策引擎，同一分类任务耗时从传统自回归生成的 1088 毫秒压到 6 毫秒，提速 180 倍，数据不离本地且零 API 成本。