标签: prompt-cache
带有该标签的全部文章 "prompt-cache".
普通聊天与文档工作流不是同一种缓存场景
普通聊天通常只在末尾追加内容,文档工具却会反复改动请求前部;两种用户场景,对应不同的缓存复用结果。
我差点把一个 50 倍的价差解释错了
DeepSeek 缓存只复用没有变化的请求前缀;重复使用同一个词并不会提高缓存命中率。
带有该标签的全部文章 "prompt-cache".
普通聊天通常只在末尾追加内容,文档工具却会反复改动请求前部;两种用户场景,对应不同的缓存复用结果。
DeepSeek 缓存只复用没有变化的请求前缀;重复使用同一个词并不会提高缓存命中率。