跳到正文
原文
OpenAI News·· 20 天前AI 评分45

GPT-6 如何优化 prompt 缓存

Better prompt caching for GPT-6

AI 导读

GPT-6 改进了 prompt 缓存机制,带来更高的缓存命中率、新增诊断工具、显式断点以及相关控制能力。这些改进可降低延迟与成本。

来源:OpenAI News · openai.com