prompt-caching

更好的GPT-6提示缓存

GPT-6引入了改进的提示缓存功能，提高了缓存命中率，提供更好的诊断功能，并给予更多控制缓存过程的权限，从而降低延迟和成本。