模型

MiniCPM-V 4.7 发布:多模态模型本地跑,约 3 GB 内存

精选理由

OpenBMB 的 MiniCPM-V 4.7 手机上就能跑多模态模型,100 tok/s 加 3 GB 内存,llama.cpp 一装就能试。

OpenBMB 发布 MiniCPM-V 4.7,主打端侧部署。该模型支持多模态输入,生成速度达 100 tok/s,本地运行只需约 3 GB 内存。llama.cpp 生态已提供支持,用户可以方便地在本地设备上体验。

原文 · OpenBMB

100 tok/s, multimodal, and running locally on ~3 GB of memory. 🔥

MiniCPM-V 4.7 makes on-device AI even more practical. Love seeing the @llama_cpp ecosystem make it easy to try!