产品 信源:X:Tibo (@thsottiaux) · 👁️ 25159 次研读

OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留

💡 灵机 AI 深度洞见与核心提炼
OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。
信源媒体:X:Tibo (@thsottiaux)
访问出处网页 ↗
阅读原文出处 ↗