MoE 相关 AI 资讯 · AITOP

8月5日

01:31

官方账号Cursor@cursor_ai

72°

Cursor AI 开源了 Mixture-of-Kittens (MoK) 训练内核。该内核面向 NVIDIA NVL72 平台，将全部 MoE 通信与计算融合为单个确定性内核。相比最强公开基线，MoK 的训练速度最高可提升 2.37 倍。开发者现在可以获得完整代码并用于自己的训练任务。

事件专题

推荐理由：Cursor 把 NVL72 上的 MoE 训练内核开出来了，比公开方案快 2.37 倍，想省训练成本直接用。

原文

8月4日

11:58

官方账号arXiv cs.LG@Tom Saliencro, Rohan Desai, Priya Nair, Maya Lindqvist, Daniel Whitmore

VI-MoLE提出将混合LoRA专家路由视为认证信息价值分配问题。该方法在验证集上为每个专家前缀后的反事实风险输出同时有效的上界证书，并依据单位成本的边际风险降低量分配全局适配器预算。与仅依赖不确定性的动态路由不同，VI-MoLE能区分可恢复风险与残余歧义。论文在匹配计算量准确率、证书覆盖率、风险-覆盖率、分布偏移和尾延迟上与固定及动态MoE-LoRA路由对比。实验设置来自arXiv 2608.02528v1。

论文 LoRA VI-MoLE MoE

推荐理由：这论文把“不确定就多算”的LoRA路由换成了信息价值定价，能证明预算花在哪风险降最多，还带回答弃权判断。

原文

8月3日

18:13

官方账号阿里通义 Qwen@Alibaba_Qwen

72°

Qwen 3.8 Max已上线Command Code Go，并宣布将开放权重。该模型为2.4T参数的MoE旗舰，输入价格每百万tokens 2美元，输出6美元。缓存价格每百万tokens 0.25美元，整体比3.7版本便宜20%。下周将发布Qwen3.8-Max和Qwen3.8-27B的开放权重。

AI模型 Qwen Command Code Go 开源模型

推荐理由：Qwen 3.8 Max上线了，价格比3.7便宜20%，下周还要开源权重，值得蹲一下。

原文

8月2日

03:08

官方一手marktechpost@Asif Razzaq

AMD推出Instella-MoE-16B-A3B，这是一个完全开源的混合专家语言模型，总参数16B，每个token仅激活2.8B。模型采用Gated MLA与FarSkip-Collective架构，在Instinct MI300X和MI325X GPU上从零训练。AMD已发布所有训练阶段的权重，并公开数据混合、配置和推理代码。

AI模型 Instella-MoE-16B-A3B AMD Instinct

推荐理由：想用AMD显卡跑大模型的可以看看，AMD把16B总参数、2.8B激活的MoE模型全开源了，连训练配置和数据配方都给了。

原文

7月31日

11:48

11:48IT之家（博客/媒体）

LG AI研究院发布了K-EXAONE 2.0，采用混合注意力MoE架构，总参数750B，激活参数37B，规模是初代K-EXAONE的3倍以上，成为韩国迄今最大AI基础模型。该模型以Apache 2.0许可证开源，在24项基准测试中平均得分70.1，比初代63.3分提高超10%。在三大编码和智能体编码基准上性能提升约30%，长上下文理解优于GLM-5.1，智能体工具使用能力优于智谱GLM-5.1和Qwen3.5，指令执行表现与GLM-5.1、DeepSeek V4 Pro Max等相当。

AI模型 K-EXAONE LG AI研究院开源模型

推荐理由：LG开源了韩国最大的K-EXAONE 2.0，750B参数，跑分比初代高10%，长上下文和工具调用还压过了GLM-5.1。

原文

10:30

10:30IT之家（博客/媒体）

77°

华为今日开源 openPangu-2.0-Pro 模型权重、基础推理代码及技术报告。该模型为昇腾 NPU 训练的 MoE 架构，总参数约 505B，每 token 激活约 18B，支持 512k 上下文，训练数据约 34T tokens。模型采用 MLA 加 DSA/SWA 分层混合、3 头 MTP 自投机等架构升级，后训练结合 SFT、多专项 RL 与 OPD 蒸馏。此前 openPangu-2.0-Flash（92B 参数）已于 6 月 30 日开源，本次 Pro 是 openPangu 2.0 七组件开源计划的一部分。

AI模型 openPangu-2.0-Pro 华为盘古

事件专题

推荐理由：华为盘古 505B 的 MoE 模型 openPangu-2.0-Pro 开源了，带权重和推理代码，支持 512k 上下文，想跑昇腾生态可以看。

原文

09:53

官方一手arXiv: DeepSeek@Huiyuan Tian, Bonan Xu, Shijian Li

精选

本研究提出专家子空间分离指数（ESSI）和匹配路由残差等方法，区分路由一致性、候选质量和上下文交互。在六种MoE架构中发现专家子空间高度重叠，但实际路由对token表征的解释优于匹配替代方案。在OLMoE、Mixtral和DeepSeek的39个阶乘单元中，选中专家在每个单元都比最强的未选中候选解释更多残差，但实际前缀在所有交互中均缩小该优势，所有95%置信区间低于零。尽管几何重叠，添加后续专家在39个冻结路由比较中改善24个单元的下一token预测，其余15个不显著，受控训练中三个种子均偏好Top-2优于Top-1。这一模式表明路由从共享几何邻域选择token相关专家，而多专家计算无需不相交线性覆盖即可保持效用。

论文 MoE 稀疏混合专家 OLMoE

推荐理由：这篇论文把MoE路由的几何重叠和功能价值分开了，用了新指标ESSI和受控实验，结论很扎实，比单纯算相似度靠谱。

原文

7月30日

13:32

官方一手marktechpost@Michal Sutter

Moonshot AI 在 Kimi K3 Open Day 上开源了 MoonEP，这是一个专家并行（EP）通信库，专为分布式 Mixture-of-Experts（MoE）训练优化。该库采用 MIT 许可证发布，旨在解决大规模 EP 通信的效率瓶颈。MoonEP 提供平衡的负载分配和低延迟通信，可与 Kimi K3 等模型配合使用。

AI模型 Moonshot AI MoonEP Kimi K3

事件专题

推荐理由：Moonshot AI 开源了 MoonEP，一个专门加速 MoE 训练中专家并行通信的库，比现有方案更均衡高效，做分布式训练的同学可以试试。

原文

7月29日

11:43

官方账号arXiv cs.LG@Tom Saliencro, Rohan Desai, Priya Nair, Maya Lindqvist, Daniel Whitmore

Mixture-of-Experts (MoE) LoRA 通常对每个 token 固定激活 k 个专家，但易在简单 token 上浪费计算、难 token 上欠拟合。CARE 利用路由器输出分布作为不确定性信号，以核采样方式按置信度阈值自适应选择专家，且当已选专家分歧时小幅扩展。在 LLaMA-3.1-8B 和 Qwen2.5-7B 的 8 个常识基准、数学、代码和知识任务上，CARE 在相同计算量下优于固定 top-k MoE-LoRA，并能在激活更少专家时匹敌固定 k=4 基线。置信度与分歧信号还提升了 OOD 检测效果，超越 MSP、熵和多遍代理方法。

论文 CARE MoE LoRA

推荐理由：MoE-LoRA 不用固定 k 值了，CARE 根据 token 难度自动选专家，在 LLaMA 和 Qwen 上效率更高，还能顺手做 OOD 检测。

原文

7月28日

18:44

18:44IT之家（博客/媒体）

71°

阿里云宣布灵骏真武M890超节点实例成功适配月之暗面2.8万亿参数大模型Kimi K3。Kimi K3采用MoE架构，基于平头哥真武M890训推一体AI芯片，64张M890通过ICN Switch 1.0实现800GB/s All-to-All高速互联，显存规模达9TB。联合优化使万亿级MoE模型EP专家并行通信流量运行在单一高带宽域内，提升推理效率。T-Head SAIL软件栈让Mooncake推理框架即开即跑，Triton支持减少自定义算子重写工作量。

AI产品 Kimi K3 阿里云灵骏真武M890

事件专题

推荐理由：阿里云真武M890超节点实例首发适配Kimi K3，2.8万亿参数MoE模型推理效率获硬件级优化，适合关注大模型部署和推理加速的开发者。

原文

16:16

官方一手Pandaily@contact@pandaily.com (Pandaily)

82°

Moonshot AI发布47页Kimi K3技术报告，核心架构包括KDA+Gated MLA混合注意力机制。AttnRes跨层检索层降低推理成本。Stable LatentMoE包含896个专家，支持动态路由。采用51.2M规模的RL沙箱进行强化学习训练，提升模型对齐能力。报告还引入模型参数与推理时间两个缩放轴，重新定义性能前沿。

AI模型 Kimi K3 Moonshot AI DeepSeek

事件专题

推荐理由：Moonshot AI 发了Kimi K3的47页技术报告，混合注意力、896专家MoE和5100万RL沙箱的架构特别硬核，值得看它怎么跟DeepSeek对标。

原文

13:38

小互@imxiaohu

精选

Kimi K3 是一个拥有2.8万亿参数的混合专家（MoE）模型，包含896个专家，每次推理激活16个。通过三处架构改动，其训练算力效率提升至原来的2.5倍。训练过程使用了5122万个沙箱资源。

AI模型 Kimi K3 MoE 推理模型

事件专题

推荐理由：Kimi 新模型K3 参数2.8万亿，896个专家，算力效率拉高2.5倍，技术细节很扎实。

原文

12:32

官方一手arXiv: DeepSeek@Dengke Han

精选

DraftExpert针对在端侧设备（CPU-GPU或Flash-NPU卸载）部署大型MoE语言模型时的延迟问题，提出了一种扩展感知的自推测解码框架。它通过自蒸馏从冻结目标MoE中为每层训练一个轻量级驻留加速器的草稿专家，推理时使用固定足迹的共享+top-1+草稿专家解码器，结合置信度扩展截断和目标专家预取。在DeepSeek-V2-Lite和Moonlight-16B-A3B上，解码吞吐量平均提升1.45倍，草稿接受率达到84%~87%，预取命中率86%~88%。

论文 DraftExpert MoE 自推测解码

推荐理由：论文提出DraftExpert，通过训练轻量草稿专家和预取机制，让端侧MoE模型推理速度提升1.45倍，适合关注边缘部署和推理加速的朋友。

原文

11:47

官方账号arXiv cs.LG@ Kimi Team, Tongtong Bai, Yifan Bai, Yiping Bao, M. C., Jianfeng Cai, Xinyuan Cai, Peizhou Cao, Yuxuan Cao, Ziwei Chai, Y. Charles, H. S. Che, Guanduo Chen, Guangyu Chen, Guanzheng Chen, Huarong Chen, Jia Chen, Jianlong Chen, Jun Chen, Kexin Chen, Peng Chen, Ruijue Chen, Wentao Chen, Xin Chen, Yang Chen, Yanru Chen, Yifei Chen, Yingjiang Chen, Yuankun Chen, Yujie Chen, Yutian Chen, Zhirong Chen, Dazhi Cheng, Yean Cheng, Jialei Cui, Jingbing Cui, Anqi Dai, Jiaqi Deng, Hao Ding, Rui Ding, Shaofeng Ding, Mengfan Dong, Mengnan Dong, Yuhao Dong, Yuxin Dong, Angang Du, Chenzhuang Du, Dikang Du, Jusen Du, Yulun Du, Yu Fan, Jing Feng, Qiulin Feng, Yichen Feng, Kelin Fu, Qiang Fu, Fuxuan Gao, Hongcheng Gao, Jingyue Gao, Tong Gao, Weijia Gao, Shangyi Geng, Jie Gong, Linhu Gong, Shengao Gong, Xiaochen Gong, Qizheng Gu, Yicheng Gu, Shuhao Guan, Haiqing Guo, Shiqi Guo, Xiang Guo, Zhengyan Guo, Beixi Hao, Wenxin Hao, Xiaoru Hao, Dailan He, Haotian He, Lehan He, Qi He, Weiran He, Xinran He, Xinyi He, Yibo He, Yunjia He, Chao Hong, Tiange Hong, Hao Hu, Jiaxi Hu, Ruikun Hu, Weiming Hu, Yangyang Hu, Zhenxing Hu, Liang Hua, Jinbin Huang, Ke Huang, Ruiyuan Huang, Siying Huang, Weixiao Huang, Yan Huang, Zhengjie Huang, Zhiqi Huang, Yulong Hui, Chaobo Jia, Yutong Jiang, Zhejun Jiang, Zuoyou Jiang, Wenyi Jin, Xinyi Jin, Yu Jing, Huanjun Kong, Guokun Lai, Aidi Li, Cheng Li, Chengyuan Li, Cong Li, Fang Li, Guanyu Li, Haoyang Li, Jia Li, Junxiong Li, Lei Li, Letian Li, Lincan Li, Weihong Li, Wentao Li, Xintong Li, Yang Li, Yishen Li, Yiwei Li, Yuxiao Li, Zhaowei Li, Zhaoxi Li, Zheming Li, Zhengxiao Li, Zhiyuan Li, Jiawei Lin, Xiaohan Lin, Yibo Lin, Zichao Lin, Ziyan Lin, Bill Liu, Boxiao Liu, Chuan Liu, Liang Liu, Shaowei Liu, Shudong Liu, Shuran Liu, Tianwei Liu, Weizhou Liu, Yangyang Liu, Yanming Liu, Yibo Liu, Yipeng Liu, Zhengying Liu, Zhiheng Liu, Enzhe Lu, Haoyu Lu, Linqiang Lu, Tingzhan Lu, Zhiyuan Lu, Aotian Luo, G. Luo, Junyu Luo, Yifan Luo, B. Lyu, Wenzhou Lyu, Shaoguang Mao, Yuan Mei, Xin Men, Minqing Ni, Yixuan Niu, Siyuan Pan, Shujun Peng, Zhangyang Qi, Ruoyu Qin, ZeChao Qin, Zeyu Qin, Haiquan Qiu, Jianxin Qiu, Jiezhong Qiu, Bowen Qu, Yuhao Qu, Zeyu Shang, Youbo Shao, Han Shen, Jincheng Shi, Juanfeng Shi, Lidong Shi, Shengyuan Shi, Wingchun Siu, Pengwei Song, Xiaoxi Song, Jianlin Su, Yunfeng Su, Zhaochen Su, Lin Sui, Jingsong Sun, Junyao Sun, Shaoning Sun, Shuzhe Sun, Tongyu Sun, Yujun Sun, Yunpeng Tai, Chuning Tang, Heyi Tang, Sirui Tang, Zecheng Tang, Chaoran Tian, Rongpeng Tian, Yu Tian, Wei Tu, Chensi Wang, Chuang Wang, Chunjie Wang, Dinglu Wang, Feng Wang, Hailong Wang, Haiming Wang, Hao Wang, Hao Wang, Huaqing Wang, Hui Wang, Jiayi Wang, Jinglong Wang, Jinhong Wang, Jiuzheng Wang, Linian Wang, Shaobo Wang, Shenzhi Wang, Shuyi Wang, Si Wang, Siyuan Wang, Tianfu Wang, Wenjue Wang, Xingran Wang, Xinmei Wang, Xinyuan Wang, Xusheng Wang, Yalin Wang, Yangkun Wang, Yao Wang, Yaoyu Wang, Yejie Wang, Yiqin Wang, Yucheng Wang, Yuzhi Wang, Zhaoji Wang, Zhaowei Wang, Zhengtao Wang, Zhenhao Wang, Zhongsheng Wang, Zifan Wang, Chu Wei, Ming Wei, Shouxin Wei, Zichen Wen, Fan Wu, Haoning Wu, Rucong Wu, Wenhao Wu, Xiaoxue Wu, Yingcong Wu, Yongqi Wu, Yuxin Wu, Zijian Wu, Xinglang Xian, Chenxuan Xiang, Yuye Xiang, Bocheng Xiao, Chenjun Xiao, Xin Xiao, Jin Xie, Xiaotong Xie, Yifeng Xie, Zhe Xie, Bowei Xing, Yiming Xiong, Baosheng Xu, Boyu Xu, Jiale Xu, Jianfan Xu, Jing Xu, Jinjing Xu, L. H. Xu, Qingtao Xu, Shuyao Xu, Suting Xu, Tiantian Xu, Tianxiang Xu, Weixin Xu, Xinran Xu, Yangchuan Xu, Ye Xu, Yueni Xu, Ziyao Xu, Haonan Xue, Junjie Yan, Yaoyao Yan, Fan Yang, Guangyao Yang, Hao Yang, Junwei Yang, Ruoyu Yang, Wenjie Yang, Xiaofei Yang, Xinyu Yang, Yi Yang, Yiling Yang, Ying Yang, Yuchen Yang, Zhen Yang, Zhilin Yang, Zian Yang, Zuhao Yang, Haotian Yao, Dan Ye, Haoran Ye, Wenjie Ye, Zhanbo Ye, Bohong Yin, Haoxiang Yin, Xietong Yin, Chengzhen Yu, Haozhen Yu, Longhui Yu, Shengnan Yu, Shuying Yu, Tianxiang Yu, Enming Yuan, Mengjie Yuan, Tongtian Yue, Wei Yue, Yang Yue, Dunyuan Zha, Haobing Zhan, B. H. Zhang, Dehao Zhang, Fei Zhang, Hao Zhang, Haoyuan Zhang, Huanyu Zhang, Jiapei Zhang, Jiaxuan Zhang, Jin Zhang, Kaiyi Zhang, Miaozhen Zhang, Puqi Zhang, Qinglei Zhang, Rong Zhang, Rui Zhang, Shaoshuai Zhang, Shiyi Zhang, Xiaobin Zhang, Xiaoyun Zhang, Y. Zhang, Yangkun Zhang, Ye Zhang, Yichi Zhang, Yikun Zhang, Yizhi Zhang, Yongting Zhang, Yu Zhang, Yutao Zhang, Yutong Zhang, Zheng Zhang, Zijing Zhang, Bin Zhao, Chenguang Zhao, Feifan Zhao, Jinglun Zhao, Jinxiang Zhao, Shuai Zhao, Wenshuo Zhao, Xiangyu Zhao, Xuanle Zhao, Yikai Zhao, Zijia Zhao, Haozhi Zheng, Huabin Zheng, Ruihan Zheng, Shaojie Zheng, Tengyang Zheng, Haofeng Zhong, Lei Zhong, Longguang Zhong, M. Zhou, Qiankang Zhou, Runjie Zhou, Ruozhang Zhou, Xinyu Zhou, Yiqiao Zhou, Zaida Zhou, Jinguo Zhu, Liya Zhu, Xinhao Zhu, Yangjunfeng Zhu, Yuxuan Zhu, Zhen Zhu, Chen Zhuang, Weiyu Zhuang, Xinxing Zu

Kimi K3是一个2.8万亿参数的Mixture-of-Experts模型，激活参数104B，支持100万token上下文窗口和原生视觉。它采用Kimi Delta Attention和Attention Residuals改进信息流动，训练效率相比Kimi K2提升约2.5倍。后训练中应用了强化学习，覆盖通用、智能体和编程领域，实现组合泛化。在长程编码、智能体、知识、推理和视觉任务上达到前沿水平，但整体性能仍落后于Claude Fable 5和GPT-5.6 Sol。官方已开源完整模型权重。

AI模型 Kimi K3 MoE 开源模型

事件专题

推荐理由：Kimi 开源了2.8T参数的K3模型，激活104B参数，能处理百万token上下文，视觉能力也不弱，性能直逼Claude和GPT-5.6，适合用来部署或研究。

原文

09:49

官方一手pandaily@contact@pandaily.com (Pandaily)

72°

Moonshot AI 正式开源 Kimi K3 模型，拥有 2.8T MoE 参数、896 个路由专家，每 token 激活 16 个专家，支持 1M 上下文窗口。同时开源 MoonEP、FlashKDA 和 AgentEnv 三项基础设施技术。技术报告与模型权重同步发布。

AI模型 Kimi K3 Moonshot AI MoE

事件专题

推荐理由：Moonshot AI 发布了 2.8T 参数的 Kimi K3，MoE 架构加 1M 上下文，还配套了工具，开源党可以玩起来了。

原文

01:20

ollama@ollama

Kimi K3 是 Moonshot 最新的旗舰模型，采用 2.8T 参数 MoE 架构，原生支持视觉理解并拥有 100 万 token 上下文窗口。新架构实现每单位计算智能提升 2.5 倍。该模型已上线 Ollama 云端，需要 Pro 或 Max 订阅并消耗额外积分才能使用。Ollama 同时开源了模型权重、技术报告以及高性能注意力内核和 MoE 通信库。

AI模型 Kimi K3 Ollama Claude Code

事件专题

推荐理由：Kimi 新旗舰 K3 登上 Ollama，2.8T MoE 超强视觉理解，还能直接配合 Claude Code 用，性能提升 2.5 倍每单位计算。

原文

01:01

宝玉@dotey

81°

Kimi K3 是 Moonshot 发布的最强模型，总参数量 2.8T，采用 MoE 架构，支持原生视觉理解和 1M token 上下文窗口。新架构使每单位计算智能提升 2.5 倍，并非单纯增加参数量。除模型权重外，还开源了高性能 attention kernels、MoE 通信库和用于大规模 agent 环境运行的基础设施。模型权重已在 Hugging Face 发布，技术报告和博客同步公开。

AI模型 Kimi K3 MoE 多模态

事件专题

推荐理由：Kimi K3 开源了，2.8T MoE 模型，1M 上下文，每算力智能翻倍，还有全套底层代码，想研究大模型的快去下载。

原文

00:54

The Rundown AI@therundownai

75°

Moonshot 正式开源其最强模型 Kimi K3 的权重与技术报告。K3 是 2.8T 参数的 MoE 模型，支持原生视觉理解和 1M token 上下文窗口。新架构实现每单位计算智能提升 2.5 倍。同时开源了高性能注意力内核、MoE 通信库以及大规模智能体运行环境基础设施。

AI模型 Moonshot Kimi K3 MoE

事件专题

推荐理由：Moonshot 直接把最强模型 Kimi K3 权重开源了，2.8T MoE 还带视觉，算力效率翻倍，诚意满满！

原文

00:40

elvis@omarsar0

71°

Kimi AI 开源了其最强模型 Kimi K3 的权重和技术报告。K3 是一个 2.8T 参数的 MoE 模型，具备原生视觉理解和 1M token 上下文窗口。新架构使每单位计算智能提升 2.5 倍。此外，Kimi 还开源了高性能注意力内核、MoE 通信库和智能体环境基础设施。模型权重和报告已在 Hugging Face 和 GitHub 公开。

AI模型 Kimi K3 MoE 多模态

事件专题

推荐理由：Kimi K3 开源了，2.8T MoE 模型带视觉和超长上下文，还开放了底层工具链，值得研究。

原文

7月27日

23:17

23:17IT之家（博客/媒体）

82°

月之暗面开源了 Kimi K3 模型，参数规模达 2.8 万亿，基于 KDA 混合线性注意力机制和注意力残差技术构建。该模型原生支持视觉理解，拥有 100 万 token 上下文窗口，采用 MoE 架构在 896 个专家中激活 16 个。相比前代 K2，Kimi K3 的扩展效率提升约 2.5 倍，在长程编码、软件工程与视觉推理任务上表现突出。官方评测显示，K3 整体落后于闭源模型 Claude Fable 5 和 GPT-5.6 Sol，但超过了其他所有模型。

AI模型 Kimi K3 月之暗面 MoE

事件专题

推荐理由：月之暗面开源了 2.8 万亿参数的 Kimi K3，MoE 架构效率比 K2 高 2.5 倍，支持 100 万 token 上下文和视觉推理，值得关注。

原文

7月25日

02:46

官方账号vLLM@vllm_project

72°

蚂蚁集团Ling团队发布Ling-3.0-flash，一款124B参数的MoE模型，每个token仅激活5.1B参数。该模型采用混合线性注意力机制，支持原生256K上下文窗口，面向生产级智能体系统。vLLM项目祝贺其发布，并称赞其“先公告后开源”的发布模式。vLLM将在模型权重开源时提供支持，预计vLLM开源支持即将到来。

AI模型 Ling-3.0-flash AntLingAGI vLLM

推荐理由：蚂蚁的Ling-3.0-flash参数大但激活少，256K上下文，vLLM确认后续支持，开源在即。

原文

00:55

官方账号vLLM@vllm_project

精选

vLLM 项目发布实验性插件 vLLM AFD Plugin，由 Ascend、vLLM、阶跃星辰、蚂蚁集团、FastAFD 联合开发。该插件针对 MoE 模型提出 Attention-FFN Disaggregation（AFD）方案，将注意力和专家/FFN 路径作为独立服务运行，支持独立扩缩容。AFD 运行在 NVIDIA GPU 和 Ascend NPU 上，无需 fork 即可使用相同 vLLM 服务接口。

AI模型 vLLM AFD Plugin MoE Attention-FFN Disaggregation

事件专题

推荐理由：vLLM 出了个新插件，把 MoE 推理的注意力层和专家层拆分部署，想分别扩缩容就方便了，支持 NVIDIA 和昇腾卡。

原文

7月24日

06:30

官方账号Nous Research@NousResearch

精选

蚂蚁集团（AntLingAGI）发布新MoE模型Ling-3.0-flash，总参数124B，激活参数5.1B，运行速度快。该模型专为智能体工作负载设计，涵盖编码、搜索、研究和工具使用场景。即日起一周内，用户可通过Nous Portal免费使用。

AI模型 Ling-3.0-flash AntLingAGI NousResearch

推荐理由：蚂蚁发了新MoE模型Ling-3.0-flash，124B参数但只激活5.1B，跑得快，还免费一周。适合搞智能体、编码或搜索任务，快去体验。

原文

06:09

OpenRouter@OpenRouterAI

Ling-3.0-flash是一款124B参数的MoE模型，每token仅激活约5.1B参数，由Novita Labs提供。该模型已在OpenRouter平台上线，主打token高效的agentic推理。即日起至8月3日可免费使用。

AI模型 Ling-3.0-flash Novita Labs OpenRouter

推荐理由：想省token跑agentic任务？试试Ling-3.0-flash，124B参数只激活5B，OpenRouter上免费到8月3日。

原文

7月23日

17:46

17:46IT之家（博客/媒体）

85°

阿里云宣布灵骏真武 M890 超节点实例成功适配 Qwen3.8，该模型参数规模达 2.4 万亿，是国内首个运行超 2 万亿参数大模型的超节点。真武 M890 通过 ICN Switch 1.0 实现 64 张芯片 800GB/s 互联，显存达 9TB，支撑 MoE 模型专家并行。实测显示 Optimizer 优化后 Agentic 推理性能提升 1.5 倍。

AI模型阿里云 Qwen3.8 灵骏真武M890

推荐理由：阿里云用真武 M890 跑通了 2.4 万亿参数的 Qwen3.8，显存 9TB，推理性能还提升了 1.5 倍，国内头一个做到的。

原文

09:55

官方一手arXiv: DeepSeek@Sungrae Park, Sanghoon Kim, Gyoungjin Gim, Jungho Cho, Hyunwoong Ko, Minbyul Jeong, Minjeong Kim, Keunwoo Choi, Chaehun Shin, Chanwoong Yoon, Dongjun Kim, Eunwon Kim, Gyungin Shin, Hyeonju Lee, Hyungkyu Kang, Inseo Song, Jisu Bae, Jiyoon Han, Jiyun Lee, Joonkee Kim, Junyeop Lee, Mikyoung Cha, Sangwon Yu, Sehwan Joo, Seokyoon Kang, Seonghoon Yang, Seung Shin, Seunghyun Lee, Seungseop Lim, Seungyoun Shin, Sukyung Lee, Taegyeong Eo, Taehwan Oh, Taewhoo Lee, Wonho Song, Wonjun Oh, Wonseok Hwang, Yunsu Kim, Yura Shim, Hwalsuk Lee, Sunghun Kim, Du-Seong Chang, Kyunghyun Cho, Seungju Han, Yejin Choi, Junsuk Choe, Hwaran Lee, Minjeong Ban, Yun Taewon, Hwanjun Song, Jae-Gil Lee, KyungTae Lim, Alice Oh

Solar Open 2 是一个 250B 参数（15B 激活）的混合专家（MoE）语言模型，上下文窗口达 1M token。它采用混合注意力机制，每 3 层线性注意力插入 1 层 softmax，无位置编码。训练上，从 Solar Open 1 初始化 5.69B 参数共享骨架，并通过质量与稀有度感知的数据筛选将 20T 语料缩减为 10T 以提升效率。通过多教师同策略蒸馏（MOPD）融合 12 个领域专家。在 MMLU-Pro、LiveCodeBench 和 APEX-Agents 上领先，韩语基准平均最高，Ko-GDPval 上以不到 1/6 参数量与 DeepSeek-V4-Pro (1.6T) 竞争。

AI模型 Solar Open 2 MoE 长上下文

事件专题

推荐理由：Solar Open 2 发了，250B MoE 模型，1M token 超长上下文，专门跑复杂智能体任务。MMLU-Pro 和 LiveCodeBench 都领先，韩语能力还特别强，比 DeepSeek-V4-Pro 小很多但性能接近。

原文

7月22日

14:24

14:24IT之家（博客/媒体）

82°

英伟达宣布其 Blackwell GB300 在 256 块 GPU 上预训练 DeepSeek-v3 671B 模型，每 GPU 算力达到 1648 TFLOPs，刷新 MoE 预训练世界纪录。相比 2025 年 11 月的 1088 TFLOPs，性能优化提升 50%。与上一代 GB200 的 606 TFLOPs 相比，GB300 实现了约 3 倍性能跃升。英伟达通过模拟超过 25 万种配置，发现 38 项优化方案，累计进行 140 万小时 GPU 优化测试。