面壁智能详解 LES：让 35B MoE 模型在手机上跑出 20+ tokens/s
ModelBest Details LES, the Method Behind a 35B MoE Model Running on Phones at Over 20 Tokens/s
面壁智能把 35B 的 MoE 模型塞进手机，靠 LES 预取专家权重这一招，iPhone 上跑到 20.51 tokens/s，代码还开源了。做端侧部署的人可以直接看实现细节，比单纯量化压缩的路子更值得研究。
面壁智能（ModelBest）公开了 LES（Lookahead Expert Scheduling）方法，这套技术让一个 35B 参数的 MoE 模型在手机端运行时达到 20.51 tokens/s 的生成速度，是其基线的 6.07 倍，相关代码已开源。
LES 的核心机制是从手机闪存（flash）中预取下一层的专家权重：MoE 模型每层只激活少量专家，LES 提前判断并加载即将用到的专家，把闪存读取延迟藏在推理过程中，从而避开端侧设备内存不足的瓶颈。
对端侧 AI 开发者来说，这意味着原本必须压缩到几 B 的小模型才能上的手机，现在可以直接跑 35B 级别的 MoE 模型，代码开源后可直接复现和适配到自己的部署流程中。
ModelBest Details LES, the Method Behind a 35B MoE Model Running on Phones at Over 20 Tokens/s
ModelBest's LES prefetches next-layer experts from phone flash; it reports 20.51 tokens/s on an iPhone, 6.07x its baseline, and has open-sourced the code.
本条情报归属 AITOP「模型」核心栏目，重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中，该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线，反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括：ModelBest、MoE、LES、端侧推理，读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明：本文原始信息发布自一手权威信源「Pandaily」（Tier-1 一手发布），具备高确定性参考价值。
