OpenAI发布GPT-6提示词缓存优化方案 降低大模型延迟与成本

本次OpenAI发布的GPT-6提示词缓存优化，来自官方RSS渠道，多个语言版本的官方新闻页都收录了该更新，外部检索也确认该更新随GPT-6 Sol和Luna同步推出，具备官方权威性。本次优化的核心价值在于提升缓存命中率，新增诊断、断点控制能力，最终实现降低推理延迟和用户使用成本，对大模型产品落地有实际工程价值。边界方面，目前仅能确认该优化针对GPT-6模型，尚未看到该优化方案开源或向其他模型开放的信息，也没有第三方机构验证实际优化效果的数据。后续需要关注实际用户体验数据，以及该优化对不同场景成本下降的具体幅度。