Anthropic 推出更便宜的 Haiku,用小模型处理 95% 调用来降成本
Anthropic 把 95% 的调用交给便宜的 Haiku,只在 5% 关键时刻用 Opus,省钱思路讲得很透。
Anthropic 正通过 Haiku 系列小模型降低 AI 使用成本。据 Handshake AI 研究总监 jomulr 的解释,其思路是在 5% 的调用中使用 Opus 这类大模型,其余 95% 的 LM 调用都交给便宜的小模型 Haiku 完成。这种大小模型混搭的路由方式,让整体调用成本明显下降。
Anthropic is making their AI cheaper with Haiku 5.5.
@joinHandshake Director of AI Research @jomulr explains Anthropic’s approach to cutting costs:
“Only 5% of the time you're using this really smart Opus model. And the other 95% of the LM calls are this cheap Haiku model” https://t.co/lMHVCdy1ZL