Nous Research 发布 Arete-27B GGUF 量化版本
Nous Research 把基于 Qwen 后训练的 Arete-27B 做成了 GGUF 版,喜欢本地跑模型的朋友可以直接下载体验了。
Nous Research 推出了 Arete-27B 的 GGUF 量化版本,方便用户在本地设备上运行。该模型基于阿里的 Qwen 27B 基座做后训练。GGUF 格式面向 llama.cpp 等本地推理工具链。
Introducing Nous Research Arete-27B GGUFs, post trained QWEN model.
https://t.co/sHP239g0mS