#Bonsai 27B
共 10 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「Bonsai 27B」标签的资讯、产品与论文，按刊登时间排，新的在上。
7月16日
7月15日
内存占用 54GB→3.9GB，苹果评估 PrismML 量化技术让 iPhone 15 运行 27B 模型
PrismML 这技术能把 27B 模型塞进 iPhone，内存从 54G 砍到 4G 不到，苹果都在看，手机跑大模型要成真了。
IT之家原文
PrismML发布Bonsai 27B：首个能在iPhone 17 Pro运行的27B模型
27B的模型在手机上跑，内存不到5GB，PrismML的Bonsai做到了。以后手机AI不连网也能用大模型了。
模型08:37
PrismML发布Bonsai 27B：可在手机本地运行的27B多模态模型PrismML搞了个Bonsai 27B，在手机上就能跑27B多模态模型，压缩到3.9GB性能还能保留90%，挺牛的，还开源了，可以试试。
Bonsai 27B 模型登场，可在 iPhone 17 Pro 上原生运行
PrismML 把 Qwen 3.6 27B 压缩到 3.9GB，iPhone 17 Pro 直接跑，本地 AI 终于不卡了。
PrismML 发布 Bonsai 27B：Qwen3.6-27B 的 1-bit 和三元量化版本，可在笔记本和手机上运行
PrismML 把 Qwen3.6-27B 压到 5.9GB，手机都能本地跑，还全开源，适合离线使用。
PrismML 发布 Bonsai 27B，多模态模型可在手机上本地运行
手机能跑 27B 模型了？PrismML 的 Bonsai 27B 实际做到了——体积最小 3.9GB，速度还不慢，开源免费。想本地用大模型又嫌大的可以看。
