本地部署不如 Claude？一条模型路由省钱思路
精选理由
一个省钱套路：Claude 当主控，简单活路由给免费模型，还帮你 review。作者顺带吐槽了本地部署的坑，几万块硬件真不如订阅 Claude。
作者认为本地部署要支撑并发需要不少硬件成本，且量化后的模型普遍出现能力下降。他对比了用十几个本地模型和 Claude 的开发效率，称后者半小时能完成的功能，本地模型可能卡在细节上数小时。他给出的省钱方案是在 Magpie 里配置免费模型路由，由 Claude 做主控，简单任务路由到免费模型，高级任务交给 SOTA 模型，再定期让 Claude review。他也提醒这套方案只适合不赶时间的情况，任务紧急时直接全用 SOTA 模型。
原文 · Lxfater
我其实不建议大家入本地部署
想并发起来需要不少硬件成本，而且模型由于量化的原因普遍比较降智一些。
十几个臭皮匠都比不上 claude 这个诸葛亮。特别是在快速迭代过程中，别人一个功能，半个小时搞定
几个本地模型在那里捣鼓几个小时，最后卡死在一个小问题上。
无限 token 有个廉价的不需要啥成本的方案，就是在 magpie 里面搞个免费模型的路由
然后 claude 做主控，高级问题就上 sota 模型，垃圾问题就路由到免费模型
定期让 claude 来铲屎，review。但也就在时间不紧急情况下弄弄。
要是任务急，还是全部用 sota 模型一把梭哈😂
所以稳定用上 claude 比部署个几万块的本地模型都强😂
