阿里云 Model Studio 推出 context caching，重复提示词只计费一次
阿里云 Model Studio 上线了 context caching，重复的 prompt 和文档缓存一次就能反复用，还能省不少调用费，做 LLM 应用的可以看看。
#context caching
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「context caching」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月23日
阿里云 Model Studio 上线了 context caching，重复的 prompt 和文档缓存一次就能反复用，还能省不少调用费，做 LLM 应用的可以看看。
