#ArisGlobal

共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「ArisGlobal」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月18日
技巧Agent 与开发者官方一手00:12
ArisGlobal 用 Amazon Bedrock 前缀缓存把推理成本降低约 40%

这是制药行业公司 ArisGlobal 的实战省钱案例,核心思路很简单:把所有请求共用的那段长提示词缓存起来,输入费用直接砍半,每月推理账单省了 40%。如果你的应用也是固定系统提示词加变化文档的结构,照抄这套做法就能降本。

官方一手AWS Machine Learning Blog@Shubham Gupta原文