Saluki

general · 首次出现 2026-05-22 · 最近出现 2026-10-25 · 累计提及 5

综述

Saluki 是 Underdog AI 团队于 2026 年 10 月推出的开源大语言模型系列,其代表版本为基于 Qwen3.8-27B 制作的 2-bit 量化模型 Saluki 27B。它定位于低比特量化的工具调用场景:在把模型体积大幅压缩的同时,测试显示其工具调用能力反而超过了未量化的原版模型,因此受到关注。

Saluki 27B 近期进展

  • Meet the Underdog Saluki 27B: A 2-bit Qwen3.8-27B That Beats the Original at Tool Calling:2026 年 10 月 9 日报道,Saluki 27B 采用 2-bit 量化方案压缩自 Qwen3.8-27B,基准测试显示其在工具调用(tool calling)任务上的表现优于原始的 27B 模型,说明激进量化未必损害特定能力,甚至可能通过训练过程带来增益。
  • Underdog AI 发布 Saluki 27B:基于 Qwen3.8-27B 的 2-bit 量化版本:国内媒体 IT之家报道了 Saluki 27B 的发布,确认该模型基于 Qwen3.8-27B 底座,以 2-bit 极低比特量化发布,主要面向本地部署和资源受限环境下的使用。
  • How to Run Underdog Saluki 27B: 2-Bit Qwen3.8-27B Tool-Calling Guide:2026 年 10 月 24 日,marktechpost 发布了在 llama.cpp 上运行 Saluki 27B 的实操教程,覆盖部署步骤与工具调用测试,表明该模型已可在消费级硬件上通过主流推理框架运行,社区生态初步成型。
  • 当前焦点与观察点

    围绕 Saluki 的讨论主要集中在一点:2-bit 量化为什么能在工具调用上超过原模型。目前公开信息多来自发布方与媒体转述,社区更期待第三方复现的评测结果,以及该现象是否同样适用于其他任务(如通用问答、代码生成)。若结论成立,低比特量化可能成为在保持特定能力前提下压缩大模型部署成本的可行路径。

    另一个观察点是生态落地。llama.cpp 教程的快速跟进说明开源社区对超低比特模型有现实需求,Saluki 27B 能否被更广泛地集成到本地 Agent 与工具链中,将决定这一量化方案的实际影响力。此外,量化训练的具体数据配比与方法尚未完全公开,相关技术细节值得持续关注。

    相关报道

    4 条在档