Laya

general · 首次出现 2026-09-19 · 最近出现 2026-11-20 · 累计提及 35

综述

Laya 是一个开源的决策 AI 模型,主打快速、轻量的分类与判断任务,目前被视为闭源模型 Jev 的主要开源替代方案之一。它能在消费级硬件上本地运行,围绕它已形成类似 Ollama 生态的本地部署工具链,在开源社区热度较高。

Laya 的近期进展

  • 开源模型 Laya 替代 Jev,速度提升50倍:有开发者实测称,Laya 在同类决策任务上的速度比 Jev 快 50 倍,这使其迅速进入大众视野,成为想摆脱 API 依赖用户的首选之一。
  • Unsloth 支持本地部署开源决策模型 Laya,最低 4GB 内存:Unsloth 框架加入对 Laya 的支持,最低 4GB 内存即可运行,大幅降低了本地部署门槛,普通笔记本也能跑。
  • Ollaya:决策模型界的 Ollama,本地服务 Laya、GLiClass 等模型:社区出现了对标 Ollama 的工具 Ollaya,可像服务大语言模型一样本地托管 Laya、GLiClass 等决策模型,生态雏形开始成型。
  • 开源模型 Laya 在 Apple MLX 上性能优化,决策速度提升:Laya 已适配 Apple MLX 框架,在 Mac 芯片上的推理速度进一步优化。
  • 当前焦点与观察点

    围绕决策模型的赛道竞争正在升温。TypeSafe 发布 Jev 时曾引发原创争议(TypeSafe 发布 Jev 引爆决策 AI 模型赛道,卷入原创争议),而 Laya 作为开源替代的走红,某种程度上代表了社区对开放方案的倾向。学术层面,非自回归答题模型的方向也有持续研究,例如关于选项顺序对输出影响的分析(Maya a1 论文:选项顺序如何影响非自回归答题模型的输出)。

    值得关注的几个观察点:一是 Laya 在实际生产环境中的准确率与稳定性是否真能对标闭源方案,目前多数证据仍来自社区实测;二是低延迟场景的落地,如 Satops 类系统追求 90.3 毫秒级的决策延迟,对这类轻量模型是天然适配场景;三是本地生态能否持续完善——Ollaya、Unsloth、MLX 适配已铺开,但文档与微调工具的成熟度仍待观察。总体而言,Laya 的走红反映了一个清晰趋势:决策类 AI 正从云端 API 走向本地化、轻量化部署。

    相关报道

    10 条在档