GPT-6.2 改动 Responses API 缓存规则,instructions 写法不换账单可能翻倍
自己搭 Agent 或用 Codex 这类编程工具的赶紧看:6.2 会把 instructions 挪到对话末尾,缓存全失效,实测复用率从 97.4% 掉到 46.4%,等于账单翻倍。把规则挪到 input 第一条标 developer 就能修回来,一分钟的事,先查一下日志再切。
OpenAI 从 GPT-6.2 开始改变了 Responses API 的缓存机制:以前放在顶层 instructions 里的固定系统规则,在 6.1 上能正常命中 prompt 缓存(复用部分打 0.5 折,Sol 版原价每百万 token 2 美元,缓存后约 0.1 美元),但 6.2 会把这段内容挪到对话末尾,导致无法复用,每轮按原价重算。
GitHub 上 Codex 仓库有用户做了两天实测:同一套工具和规则,6.1 Sol 跑 1.3 万多次请求,缓存复用率 97.4%;换成 6.2 Sol 跑 122 次,复用率跌到 46.4%。用 ChatGPT 订阅登录第三方工具同样受影响,额度消耗明显加快。
官方文档给出了新写法:把固定规则从顶层 instructions 移到 input 列表第一条,角色标为 developer。开源工具 OpenCode 实测,位置调整后 Sol 和 Astra 两个版本从第二轮起复用率都能回到 97% 以上。刚切到 6.2 的开发者应检查日志里的 cached_tokens 占比,用现成工具的直接升级最新版。
刚把 AI 工具切到 GPT-6.2,什么都没改,API 账单却可能突然暴涨
原因不复杂,平时让 AI 连续干活,每轮都要把开头那一大段固定规则,连着聊天记录发给模型 账单能压下来,全靠开头不变的这段规则,第一轮算完存下来,后面每轮直接复用
复用的部分不用按原价再算一遍,GPT-6.2 直接打 0.5 折,便宜 95% 拿 Sol 版算,原价每百万 token 2 刀,复用只要 1 毛,整整差了 20 倍!
但从 GPT-6.2 开始,OpenAI 改了接口规矩 以前调 Responses API,习惯把这段固定规则填在顶层 instructions 里 6.1 都能正常复用,可到了 6.2,系统会把填在这里的规则挪到整段对话的最后面 一挪到末尾就不再是开头,这段固定规则从此复用不上,每轮全按原价重算!
GitHub 上有人在 Codex 仓库晒了两天实测 同一套工具和规则,6.1 Sol 跑 1.3 万多次,复用率有 97.4% 换成 6.2 Sol 跑 122 次,直接掉到 46.4%,一半多全按原价交钱 用 ChatGPT 订阅登第三方工具也一样,额度会跟着烧得飞快
那怎么把这笔冤枉钱省回来?
OpenAI 在 GPT-6.2 官方文档里已经给了新写法 别再把固定规则放进顶层 instructions 直接放进 input 列表第一条,角色标成 developer
开源工具 OpenCode 已经测过,同一段规则一挪位置 不管 Sol 还是 Astra,第二轮起复用率就能拉回 97% 以上
最近把自建 Agent 或第三方编程工具切到 GPT-6.2 的 赶紧看一眼日志里的 cached_tokens,复用占比要是突然暴跌 查查规则是不是还在顶层 instructions 里,用现成工具的直接升最新版
OpenAI 官方说明放这了👇 https://t.co/Wg5v5XJlr7
本条情报归属 AITOP「技巧」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:GPT-6.2、OpenAI、Responses API、提示词工程,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「Lxfater」(@lxfater),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 11 家独立信源对该事件进行交叉印证与跟进报道(含 Tibor Blaho、@OpenAIDevs、Junyang Lin 等),属于近期高关注度行业信号。