Ternary 是一种模型量化技术，其核心思想是用 -1、0、1 三值权重（即 1.58-bit）替代传统的 16-bit 浮点权重，从而把大语言模型的体积压缩到原来的几分之一甚至更低，使大模型能在手机等端侧设备上本地运行。随着 PrismML 的 Bonsai 系列和智谱等厂商的推进，Ternary 量化正从学术方案走向消费级落地。
Ternary 量化近期进展
当前焦点与观察点
目前讨论集中在两点：一是压缩率与性能保留的平衡——已有报告给出从 98.2% 到 90% 不等的性能保留数据，不同模型、不同任务下的衰减幅度仍需更多独立评测验证；二是生态适配——MLX 等 2-bit 部署版本的出现（如本地部署体验分享）表明社区工具链正在跟进，但 Ternary 模型能否在各类端侧硬件上获得一致的推理加速，仍取决于底层内核优化。
值得关注的趋势是，Ternary 量化已从纯文本模型扩展到多模态：Bonsai 27B 支持多模态并在手机本地运行，Bonsai Image 4B 生图模型则可在 iPhone 上 9.4 秒生成 512×512 图像，其 1-bit 版本体积仅 0.93GB。如果后续主流开源模型在发布时就提供三值权重版本，端侧与云端模型的界限可能进一步模糊。争议方面，批评者主要质疑极端量化在长文本推理和复杂逻辑任务上的隐性损失，这一分歧短期内仍需基准测试数据来弥合。