OpenBMB是一个专注于开发轻量级大语言模型的开源社区,由面壁智能团队主导,致力于打造可在端侧设备高效运行的AI模型。近期,OpenBMB在小型化大模型领域取得显著进展,其MiniCPM系列模型在保持高性能的同时大幅降低资源需求。
OpenBMB 近期进展
657MB本地思考模型:MiniCPM5-1B经Claude追踪微调后展现出强大推理能力,显著提升了小模型在复杂任务中的表现能力(来源)。该模型证明了通过专业数据微调,小参数量模型也能接近大模型的思考能力。
1.58-bit端侧大模型BitCPM-CANN:OpenBMB联合清华发布了全球首个基于华为昇腾训练的1.58-bit三元大模型,实现了全中文基础设施训练(来源)。这一突破大幅降低了模型部署所需的计算资源,使AI能更广泛地应用于边缘设备。
MiniCPM5-2B模型:AA-Index评测显示,在4B以下参数量模型中,MiniCPM5-2B性能位居全球第一,证明了OpenBMB在轻量级模型优化上的技术实力(来源)。该模型在保持高性能的同时,实现了在手机浏览器等资源受限环境下的流畅运行。
当前焦点与观察点
OpenBMB正推动大模型小型化成为行业新趋势。其发布的9B参数MiniCPM-o 4.5模型实现了全双工实时语音视频交互能力(来源),展示了轻量级模型在多模态交互领域的潜力。
ForgeTrain训练框架的开源标志着OpenBMB不仅关注模型本身,更致力于构建完整的AI开发生态(来源)。这一举措降低了AI开发门槛,可能加速行业创新。
OpenBMB的系列进展表明,大模型正从云端向端侧迁移,AI计算正从集中式向分布式转变。这一趋势将使AI应用更加普及,但也带来数据隐私和模型安全的新挑战。