产品

LFM3-1.7B 量化版上线:8GB Mac 可本地运行智能体模型

精选理由

LiquidAI 新出的 1.7B 智能体模型被量化到 1.1-1.8GB,8GB Mac 就能跑,想本地玩智能体的可以直接下 Q8_0 版本。

LiquidAI 的 1.7B 智能体模型 LFM3-1.7B 被第三方团队量化为 4 个 GGUF 版本并发布在 Hugging Face。文件体积从 1.8GB 到 1.1GB,全部可在 8GB 内存的 Mac 上运行。其中 Q8_0 量化(1.8GB)最接近原模型效果。

图片来源 · @atomic_chat_hq
原文 · @atomic_chat_hq

Run LFM3-1.7B locally on 8GB Mac 💻

We released 4 quants of @liquidai's new 1.7B agent model on Hugging Face from 1.8GB down to 1.1GB

All of them fit on an 8GB Mac, so take the 1.8GB Q8_0 for the closest match to the original

GGUFs 👇 https://t.co/riD6aKV2OZ