billion-context：节省上下文的Agent长会话插件
在客户端和模型之间加了层代理，靠 compress、decompress 这些工具让模型自己压缩旧对话，100K 窗口能跑一个月、几十亿 token，token 花销降到五分之一。做长会话 Agent 或 chat 应用的开发者可以直接去 GitHub 看实现。
#长会话
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「长会话」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月10日
在客户端和模型之间加了层代理，靠 compress、decompress 这些工具让模型自己压缩旧对话，100K 窗口能跑一个月、几十亿 token，token 花销降到五分之一。做长会话 Agent 或 chat 应用的开发者可以直接去 GitHub 看实现。
