模型Agent 与开发者精选21:07OpenBMB 推出 LES 推理技术,MiniCPM-V 4.7 手机端跑出 20.51 tokens/s35B 的 MoE 模型在手机上跑到 20 tokens/s,靠的是专家预取调度,提速 6 倍多,端侧部署的可以看看实现思路。#MiniCPM#LES#MoE#端侧推理OpenBMB@OpenBMB原文稍后读已读值得跟进有用关注 MiniCPM