跳到正文
原文
OpenAI News·· 2026-09-23精选AI 评分62

GPT-6 改进 Prompt 缓存机制

Better prompt caching for GPT-6

AI 导读

OpenAI 改进了 GPT-6 的 Prompt 缓存机制,通过提高缓存命中率、新增诊断工具、引入显式断点以及精细化控制项来降低模型调用延迟与成本。该更新旨在帮助开发者优化上下文复用效率并监控缓存运行状态。

推荐理由

原文介绍了提升缓存命中率的新机制与控制项,开发者可以据此评估如何优化大模型调用延迟和接口成本。

来源:OpenAI News · openai.com