AITOPAI热报

token成本

共 8 条相关 AI 资讯
8月26日
22:13
22:13elvis@omarsar0
Glean通过结合公司知识、模型、智能体和工作流，解决企业AI中的上下文组织问题，降低81%的token成本，其系统在基准测试中被78%的用户选择。新功能包括Glean Launchpad、Glean Integrate和Glean Traverse。
AI产品GleanAI效率企业AI
推荐理由：Glean新功能降低成本，提升效率，值得一试。和Claude Cowork相比，Glean降低了81%的token成本，且更受用户青睐。
原文
8月14日
05:19
05:19techcrunch@Russell Brandom
Writer 发布了基于 Z.ai 开源模型 GLM-5.2 的后训练新模型。新系统（基于 GLM-5.2）宣称以更低价格提供部署就绪能力，并升级 harness 控制 token 成本。Writer 表示，该模型延续了 GLM-5.2 的开源生态优势。
AI模型WriterGLM-5.2Z.ai
推荐理由：Writer 出了新模型，基于 GLM-5.2 改的，价格更低还升级工具省 token 成本，适合想省钱的开发者。
原文
8月7日
08:10
8月6日
23:40
8月1日
02:56
7月14日
17:08
6月6日
05:21
05:21官方账号Clement Delangue@ClementDelangue
72°
Hugging Face CEO Clement Delangue通过实测数据反驳了“智能体会绕过所有工具直接调用API”的流行观点。团队在Hugging Face Hub上对Claude Code和Codex进行了约1000次分级测试，发现智能体使用优化过的CLI工具比手写curl或SDK调用节省高达6倍的token，且任务成功率更高（94% vs 84%）。他认为，在token昂贵的时代，抽象层（如CLI、SDK）是智能体的“缓存智能”，能压缩推理链，降低失败率和成本。因此，智能体不会重建一切，而是会倾向于使用最token高效的软件工具。Hugging Face本身已成为智能体使用AI的平台，两个月内收到约4900万次请求。
行业智能体token成本CLI/工具
推荐理由：这篇实测数据直接打脸了“智能体将消灭所有软件层”的论调，做AI工具和智能体开发的团队值得一看——它告诉你为什么好的CLI和SDK反而更值钱了。
原文
5月29日
18:55
18:55rohanpaul_ai@rohanpaul_ai
一篇新论文提出“效率前沿”框架，系统比较 LLM 在不同部署场景下的上下文策略。研究发现，在保持答案质量的前提下，选择合适的方法可将 token 消耗降低约 25%，在重复使用记忆的场景下甚至可节省超过 50%。该框架将答案质量与 token 成本联合优化，而非分开评估。实验基于 5000 个 HotpotQA 问题，结果表明：低复用场景轻量检索最优，高复用场景记忆压缩更佳，而全上下文提示仍是追求最高准确率的必要手段。
论文LLM上下文管理效率优化
推荐理由：做 LLM 部署优化的团队终于有了量化工具——这篇论文告诉你何时该用检索、何时该用记忆压缩，直接帮你省 token 成本，建议做推理优化的工程师点开看具体方法。
原文