Saluki 是 Underdog AI 团队于 2026 年 10 月推出的开源大语言模型系列,其代表版本为基于 Qwen3.8-27B 制作的 2-bit 量化模型 Saluki 27B。它定位于低比特量化的工具调用场景:在把模型体积大幅压缩的同时,测试显示其工具调用能力反而超过了未量化的原版模型,因此受到关注。
Saluki 27B 近期进展
当前焦点与观察点
围绕 Saluki 的讨论主要集中在一点:2-bit 量化为什么能在工具调用上超过原模型。目前公开信息多来自发布方与媒体转述,社区更期待第三方复现的评测结果,以及该现象是否同样适用于其他任务(如通用问答、代码生成)。若结论成立,低比特量化可能成为在保持特定能力前提下压缩大模型部署成本的可行路径。
另一个观察点是生态落地。llama.cpp 教程的快速跟进说明开源社区对超低比特模型有现实需求,Saluki 27B 能否被更广泛地集成到本地 Agent 与工具链中,将决定这一量化方案的实际影响力。此外,量化训练的具体数据配比与方法尚未完全公开,相关技术细节值得持续关注。