Expert（专家）是大语言模型 MoE（Mixture-of-Experts，混合专家）架构中的核心概念：模型内部包含多个并行的"专家"子网络，路由器在推理或训练时只激活其中一小部分，从而在参数规模与计算成本之间取得平衡。当前 AI 圈谈到的 Expert，多数指的是这一架构下的专家模块，它已经成为主流大模型的标配设计，围绕它的路由算法、训练负载均衡和端侧推理优化是近期的活跃方向。
Expert 架构的近期进展
开源社区的动作相当密集。OpenBMB 发布了 MiniCPM-V 4.7 系列开源多模态模型（OpenBMB 发布开源多模态模型 MiniCPM-V 4.7 系列），其中 35B 总参数的多模态 MoE 版本只需约 3GB 内存即可在手机上运行（MiniCPM-V 4.7 发布：35B 多模态 MoE 模型仅用 3GB 内存跑在手机上），3B 激活参数的规格让它能直接跑在 iPhone 上（OpenBMB 发布 MiniCPM-V 4.7，3B 激活参数可在 iPhone 上运行）。这延续了 MoE "大参数量、小激活量"的路线向端侧下沉。
训练与部署侧同样有新方案。DeepSeek 相关团队在 arXiv 上提出 CIPHER-MoE，针对万亿参数 MoE 的训练负载均衡问题给出新方法（CIPHER-MoE：万亿参数 MoE 训练负载均衡新方法）；AMD 则将在 PyTorch 大会上展示 MoRI + vLLM 跨 pod 的 MoE 推理方案（AMD 将在 PyTorch 大会展示 MoRI + vLLM 跨 pod 的 MoE 推理方案）。Anyscale 也围绕 Ray Serve 举办了构建可扩展分布式推理系统的网络研讨会（Anyscale 网络研讨会：用 Ray Serve 构建可扩展的分布式推理系统）。
当前焦点与观察点
第一是路由机制的改进。传统 MoE 采用硬性 top-k 路由，专家选择边界生硬，可能造成训练不稳定。最新的 Elastic Expert Routing 工作提出软化 top-k 路由边界，在 OLMoE 与 Qwen3 的微调场景中改善了效果（Elastic Expert Routing：软化 MoE top-k 路由边界，提升 OLMoE 与 Qwen3 微调效果），这类"软路由"思路值得关注是否会被更多主流模型采纳。
第二是负载均衡与基础设施。专家分布不均会导致部分 GPU 过载，CIPHER-MoE 与跨 pod 推理方案都在解决这个问题，说明 MoE 的瓶颈正从模型设计转向系统工程。
第三是服务模式的延伸。有意思的是，CoreWeave 推出了名为 Direct-to-Expert 的服务，让客户直连工程师获取支持（CoreWeave 推出 Direct-to-Expert 直连工程师支持服务）——"Expert"一词在云厂商语境里也指人类专家。观察点在于：MoE 专家稀疏性能否进一步压缩端侧成本，以及路由优化成果多久能从论文走进生产级模型。