本地推理 125b 大模型，返回速度 3 倍于云端
精选理由
博主在本地跑 125b 模型，速度是云端的 3 倍，还敢跟 Claude Opus4.6 Max 比智商，喜欢折腾本地部署的可以看看。
博主分享在本地跑 125b 参数大模型的经验，称流式返回速度达到云端 sol 接口的 3 倍。他还用 Claude Opus4.6 Max 作为参照，认为该本地模型智力表现不逊色。对想省 token 开销、追求本地可控的开发者有直接参考价值。
原文 · Lxfater
本地推理 125b 大模型，是你的 sol 返回速度的 3 倍
智商超过 Claude Opus4.6 Max
以后 token 如流水🤗 https://t.co/CAFvfTp2bv
