Fable 5.1 缓存读取降价 75%,重智能体负载整体成本降约 45%
💡 灵机 AI 深度洞见与核心提炼
Fable 5.1 的缓存读取成本比 Fable 5 低 75%,随着负载越偏智能体化,节省越大,一项组件的降价可带来整个工作负载约 45% 的成本下降。作者转发分析称,智能体反复回访相同的上下文、计划、工具输出与工作状态,因此更便宜的缓存读取大幅降低持续推理的开销;企业现在面临的经济问题是智能体能持续工作多久才在财务上合理。
信源媒体:X:Rohan Paul (@rohanpaul_ai)
访问出处网页 ↗