PrismML

general · 首次出现 2026-05-26 · 最近出现 2026-10-16 · 累计提及 46

综述

PrismML是一家专注于AI模型压缩和量化的技术公司,致力于将大型语言模型压缩到极小尺寸,使其能在资源有限的设备上运行。近期,该公司推出的Bonsai系列模型因其卓越的压缩技术而备受关注。

PrismML 近期进展

  • 27B参数的Bonsai 2模型仅需1/9内存占用即可实现Qwen3.8 98.2%的性能,这一突破性成果在IT之家的报道中得到了详细介绍。(原文链接)
  • PrismML将27B参数的模型压缩至3.9GB,使Qwen3.6-27B能够在iPhone上运行并保留90%的性能,展示了其技术在移动设备上的应用潜力。(原文链接)
  • 根据IT之家的报道,苹果曾评估了PrismML的量化技术,认为其可以让iPhone 15运行27B参数模型,将原本需要54GB内存的模型压缩到3.9GB。(原文链接)
  • 当前焦点与观察点

    PrismML的技术路线代表了AI模型部署的重要方向,即在保持高性能的同时大幅降低资源需求。尽管有报道称苹果与PrismML合作的可能性较低,但该公司技术已经在移动设备上实现了27B参数模型的本地运行,这标志着AI从云端向边缘设备迁移的重要一步。Bonsai 27B作为首个能在iPhone 17 Pro上运行的27B模型,展示了PrismML在多模态模型压缩方面的技术实力,未来可能会改变普通用户使用AI的方式。

    相关报道

    10 条在档
    PrismML · AI 话题观测|AI热报