Databricks 通过换模型、优化路由将 AI 编码成本降低最多 90%
Databricks 没有限制工程师用量,而是靠模型路由、砍 token 开销和支出可视化把编码 AI 成本压到原来的十分之一。如果你管的团队编码助手账单在涨,这四招可以直接抄。和单纯换便宜模型的公司比,他们保住了开发者的使用体验。
Databricks 联合创始人 Peter Wendell(@pwendell)分享公司内部 AI 编码成本治理经验:早期让工程师不限量使用最贵的编码模型,采用率上升后成本随之暴涨。此后 Databricks 在部分场景下将 AI 编码的单位成本降低了最多 90%。手段包括更换更高效的模型、改进请求路由、提供支出可视化,以及压缩 token 开销。这条推文附带了 Wendell 解释具体做法和如何不拖慢开发节奏的完整内容。
从工程管理角度看,Databricks 的做法对应了行业内常见的三级优化路径:先按任务难度把请求路由到合适档位的模型,而不是一律用最贵的旗舰模型;再把系统提示词、上下文注入等固定 token 开销砍掉;最后用支出看板让各团队为自己的用量负责。公司没有通过配额或限制用量来省钱,而是保持开发者的使用体验不变。
对其他大规模部署编码助手的工程团队来说,这条经验说明成本问题往往出在路由和 token 结构上,而不是模型本身的价格。90% 这个数字的适用范围是"部分场景",但思路——路由、开销治理、支出透明——对任何月账单超过数千美元的团队都可直接套用。
We started by giving engineers access to the most expensive AI coding models and as many tokens as they wanted. Adoption took off. So did costs.
At Databricks, we've since reduced AI coding unit costs by up to 90% in some cases through more efficient models, better routing, spend visibility and less token overhead.
Our co-founder @pwendell explains what worked and how we kept developers moving. https://t.co/JPWw2pn3UL
本条情报归属 AITOP「技巧」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Databricks、编码助手、token 成本、模型路由,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「Databricks」(@databricks),经 AITOP 多维评分管线结构化提炼。