OVHcloud 开源首个自研模型 Olala mini 7A1B,8GB 显存可运行
做云服务的 OVHcloud 也下场开源模型了,7B 总参数只激活 1B,8GB 显存和纯 CPU 都能跑,许可还是 Apache 2.0。想在低端卡上本地部署、自己微调的开发者可以直接去 Hugging Face 下载试试。
IT之家原文
做云服务的 OVHcloud 也下场开源模型了,7B 总参数只激活 1B,8GB 显存和纯 CPU 都能跑,许可还是 Apache 2.0。想在低端卡上本地部署、自己微调的开发者可以直接去 Hugging Face 下载试试。