OpenAI 增强 GPT-6 提示词缓存可靠性与可控性
💡 灵机 AI 深度洞见与核心提炼
OpenAI 为 GPT-6 的提示词缓存带来更高命中率、诊断工具、断点、预热和保留缓存的推理变更。缓存复用可将缓存输入 token 成本降低最多 90%,新仪表盘展示缓存命中率及缓存与未缓存 token 量。作者指出高命中率仍是应用设计问题,开发者需让长时运行智能体的稳定指令和工具保持可复用。
信源媒体:X:Rohan Paul (@rohanpaul_ai)
访问出处网页 ↗