FIT-GGUF 为 MiniCPM5-2B 带来可控体积的混合精度量化
用 FIT-GGUF 给 MiniCPM5-2B 做了 4 个混合精度量化版，1.14 到 1.46 GiB，还能自定目标体积，比固定 Q4/Q5 灵活多了。
#FIT-GGUF
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「FIT-GGUF」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月24日
用 FIT-GGUF 给 MiniCPM5-2B 做了 4 个混合精度量化版，1.14 到 1.46 GiB，还能自定目标体积，比固定 Q4/Q5 灵活多了。
