Anthropic 推出 Message Threads，长对话首 token 延迟降低 35%
Anthropic 给 Messages API 加了 Message Threads，长对话不用每次重发全部上下文，百万 token 请求首 token 快了 35%，写长对话 Agent 的可以看看。
#Message Threads
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「Message Threads」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月3日
Anthropic 给 Messages API 加了 Message Threads，长对话不用每次重发全部上下文，百万 token 请求首 token 快了 35%，写长对话 Agent 的可以看看。