Ollaya:决策模型界的 Ollama,本地服务 Laya、GLiClass 等模型
有人把决策模型打包成了 Ollaya,本地跑 GLiClass、Laya 这些模型,还带 TypeSafe API,做分类和路由的可以试试。
开源工具 Ollaya 定位为决策模型领域的 Ollama,支持本地拉取并运行 Laya、decider、NLI、GLiClass 等开放决策模型。它对外暴露 TypeSafe 兼容 API,方便应用直接接入。做 LLM 路由或零样本分类的开发者可以把它当作本地推理底座。项目地址已发布在 GitHub。
号称决策模型界的 Ollama:本地拉取并服务 Laya、decider、NLI、GLiClass 等开放决策模型,暴露 TypeSafe 兼容 API。做 LLM 路由和零样本分类的可以拿来当本地推理底座。 github.com/ollaya-dev/oll… 💬 0 🔄 0 ❤️ 0 👀 68 ⚡