技巧精选

主会话调度 + Thread 执行:一套降低 Token 消耗的多智能体会话架构

精选理由

宝玉分享了自己跑多智能体的省钱套路:主会话用 Sonnet 5.5 只管调度,重活丢给 Opus 5.5 的 Thread,再按主会话和 Thread 各自的特点分别设计缓存策略。自己在搭 Agent 工作流、被 Token 账单折磨的人可以直接抄作业。

宝玉分享了主会话 + Thread 的多智能体架构经验:主会话用 Sonnet 5.5 级别的模型就够了,因为它的职责是甄别和路由任务,类似公司前台;真正干活的 Thread 反而应该用更强的模型,比如他在 Claude Project 里主会话用 Sonnet 5.5,子任务交给 Opus 5.5,更科学的做法是主会话按任务难度动态选模型。

正文

Token 优化的关键在 Prompt Caching 的用法。主会话的消息零散、缓存容易过期,此时不必把全部历史会话和工具调用都重发,只发最新的几条消息,再配合 Session 检索工具补齐上下文即可。Thread 则像传统会话,集中时间段对话多、缓存命中率高,若缓存快过期又有新消息,最佳策略是在过期前(如 1 小时缓存的第 50 分钟)主动压缩上下文。

这套思路回应了 Grok bot 单主会话交互太耗额度的问题,对自建智能体工作流的开发者有直接参考价值:路由用便宜模型、执行用好模型、缓存按会话特征区别对待,能明显压低多智能体的运行成本。

原文 · 宝玉

主会话 + Thread 的模式,优化好的话 Token 消耗其实还好。 首先主会话反而不需要特别强的模型,Sonnet 5.5 这个级别都够用了,因为它的主要职责是甄别和路由,或者说调度。 就跟公司前台一样,你不需要招一个专家,只要知道什么任务该找谁。 主会话里面很多任务都可以让 Thread 去完成,反倒是 Thread 应该用相对强一些的模型。当然更科学的办法是主会话在调度的时候根据任务难度去选择合适的模型。 比如我在用 Claude Project 的时候,主会话是 Sonnet 5.5,子任务是 Opus 5.5。 另外就是 Prompt Caching 的利用。 像主会话这种,特点是偶尔来个消息,很难利用好缓存,所以缓存如果过期了,不应该跟把所有历史会话和工具调用都发过去,而是只把最新的几条消息记录发过去,再配合 Session 的检索工具,可以很容易的收集齐上下文。 而对于 Thread,则是像传统的 Session 会话,会集中时间有很多对话,通常 Cache 利用率很高,但是也可能会出现缓存过期后又来新的消息,所以最佳策略是在缓存快过期的时候,比如 50 分钟(如果缓存一个小时的话)的时候,压缩一下上下文。 Gary Zhang @GaryZhang124 问题是,Grok bot这个如果走单主会话的交互太耗额度了。 x.com/dotey/status/2… 🔗 View Quoted Tweet📊 5 ⚡

产业坐标与信源核验

本条情报归属 AITOP「技巧」核心栏目,重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Claude、Prompt Caching、智能体、上下文管理,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「宝玉」(@dotey),经 AITOP 多维评分管线结构化提炼。