OpenAI 为 GPT-6 改进提示缓存

OpenAI 发布技术公告，介绍 GPT-6 在提示缓存上的改进，覆盖更高的缓存命中率、新的诊断能力、显式断点以及额外的控制项。

提示缓存的原理并不复杂：当多次请求共享同一段前缀时，把这段内容的状态保留下来，后续请求就不必从头重新计算。命中率越高，被复用的重复部分越多，节省也就越明显。

公告列出的四项变化各有指向。更高的缓存命中率意味着更多重复前缀能被真正复用；诊断能力则让开发者能看到缓存到底有没有命中，以及在没命中时问题出在哪里。

显式断点把“从哪里开始缓存”的决定权交回给开发者。过去这类边界往往依赖系统自动推断，开发者只能猜测；显式声明让长提示、系统指令与固定上下文的分层变得清楚可控。

控制项补齐了策略层面。团队可以按请求类型、业务线或成本目标调整缓存行为，而不必接受一刀切的默认设置。

这些改进最终都指向两个可量化的结果——延迟与费用。对于把大模型接入生产系统的团队来说，缓存命中率的每一次提升都会直接体现在响应时间和账单上，尤其是在长系统提示或多轮对话的场景中。

接下来值得观察的是，开发者在显式断点上会形成什么样的实践惯例，以及缓存诊断数据会如何被纳入现有的可观测性体系。