AITOPAI热报

#i14 Labs

共 1 条 · 7 天 1 条 · 30 天 1 条
KV cache 1Sugar Glider 1智能体 1长上下文 1
信息流里打上「i14 Labs」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月10日
模型Agent 与开发者精选21:53
i14 Labs 发布 Sugar Glider 架构：固定 KV cache 支撑长上下文智能体

i14 Labs 新发的 Sugar Glider 把 KV cache 做成固定大小，100 万 token 上下文下单机吞吐能到基线的 32 倍，部署时还能调记忆大小不用重训。做长跑 agent 的开发者值得看，尤其是一直被上下文裁剪和推理成本折磨的团队。

#Sugar Glider#i14 Labs#长上下文#KV cache
elvis@omarsar0原文