#低比特量化
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「低比特量化」标签的资讯、产品与论文,按刊登时间排,新的在上。
7月10日
5月26日
Model Best 开源 BitCPM-CANN:国产芯片实现 1.58-bit 训练
国产芯片终于能跑 1.58-bit 训练了,内存需求直降 6 倍,用国产算力的 AI 团队可以直接上手试试。
5月25日
面壁智能联合清华开源首个基于华为昇腾训练的1.58-bit端侧大模型BitCPM-CANN
国产算力终于跑通端侧大模型全链路——6倍显存红利让8B模型直接上手机,做端侧AI部署或国产芯片适配的团队值得一试。
IT之家原文