模型

MiniCPM-V 4.7 在 24GB M4 Mac mini 上跑出 51.8 tok/s

精选理由

有人在 24GB 的入门 M4 Mac mini 上把 MiniCPM-V 4.7 跑到 51.8 tok/s,不用外接显卡。想在 Mac 上本地跑多模态模型的开发者可以参考这套配置,对比一下自己设备的余量。

OpenBMB 转发了社区对 MiniCPM-V 4.7 在消费级设备上的推理速度实测:一台 24GB 内存的入门版 M4 Mac mini 跑出 51.8 tok/s 的生成速度。

正文

MiniCPM-V 4.7 是 OpenBMB 的多模态开源模型系列的新版本,这次基准测试没有使用任何外接加速设备,只靠日常办公级别的 Mac 硬件和统一内存架构完成推理。51.8 tok/s 的速度意味着在实际使用中流式输出基本流畅,不会出现逐字卡顿的等待感。

对想在本地部署多模态模型的开发者来说,这一数据说明 24GB 统一内存的 Mac mini 已经能承载该模型的日常推理负载,无需购买带独立显卡的工作站。与依赖云端 API 的方案相比,本地部署在数据隐私和长期使用成本上有明显差异。

原文 · OpenBMB

51.8 tok/s on a base M4 Mac mini with 24GB RAM! 🚀💙 Love seeing MiniCPM-V 4.7 pushed further on everyday hardware. Thanks for sharing such detailed benchmarks! 🙌

产业坐标与信源核验

本条情报归属 AITOP「模型」核心栏目,重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:MiniCPM-V 4.7、OpenBMB、Mac mini、多模态,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「OpenBMB」(@OpenBMB),经 AITOP 多维评分管线结构化提炼。