caps 在 AI 行语境中最常见的含义是用量上限(usage caps),即服务商对用户 API 调用、Token 消耗或订阅使用量设置的硬性限制;它在研究文献中也被用作模型结构名(如决策校准头 CAPS)。随着 AI Agent 大规模消耗 Token,围绕该不该设上限、如何设上限的讨论正在升温。
usage caps 近期进展
当前焦点与观察点
围绕 caps 的讨论呈两极:一侧以 Simon Willison 为代表,主张平台默认设置硬上限以保护用户免受失控成本冲击;另一侧以 LlamaIndex 取消 usage caps 为代表,主张减少限制以降低使用门槛。两条路线并不矛盾——安全上限针对的是意外支出,而取消上限针对的是可预期消耗的灵活性。
值得关注的观察点有三:一是主要云厂商是否会跟进"默认硬性预算上限"的做法;二是 Agent 类产品因 Token 消耗巨大,是否会普遍引入更细粒度的 cap 机制;三是企业采购 AI API 时,是否会把"上限可控性"作为选型指标之一。caps 作为模型结构名(CAPS)的用法则局限于研究圈,与用量上限语境基本不重叠。