模型多源确认

Ripple-65B 首个 GGUF 量化版本发布,可本地运行

精选理由

Ripple-65B 终于能在自己电脑上跑了,已经移植到 llama.cpp,还有小显存版本在路上。

atomic_chat 团队将 Ripple-65B 移植到 llama.cpp,此前该模型无法在本地运行。移植结果与 RicursiveAI 的参考代码对比,token 选择 100% 一致。目前提供 Q8_0(68.8 GB)和 Q4_K_M(38.8 GB)两种磁盘占用规格,24 GB 和 32 GB 的更小量化版本正在制作中。

图片来源 · @atomic_chat_hq
原文 · @atomic_chat_hq

First Ripple-65B GGUF 🔥

Nothing could run Ripple locally, so we ported it to llama.cpp. Checked against @RicursiveAI's reference code: the port matches its token choice 100% of the time.

Q8_0 68.8 GB · Q4_K_M 38.8 GB on disk 24/32 GB quants coming

https://t.co/EpoEfSdtNP