论文Agent 与开发者09:25Accordion 发布:单一 MoE 模型支持 5 档推理预算一个 6B 激活 0.5B 的 MoE 模型,跑循环层数就能切 5 档推理深度,小预算也能拿到 89% 的深度增益,挺实用的思路。#Accordion#mixture-of-experts#推理模型#开源模型aarXiv cs.LG@Yudong Zhang 等 5 人原文稍后读已读值得跟进有用关注 Accordion
产品Agent 与开发者04:02Qualcomm 发布两款手机芯片,强调端侧 AI 运行能力Qualcomm 新旗舰手机芯片能在手机本地跑 300 亿参数的 MoE 模型,端侧 AI 时代又近一步,做端侧应用的开发者可以看看。#Qualcomm#mixture-of-experts#端侧推理#芯片techcrunch@Ivan Mehta原文稍后读已读值得跟进有用关注 Qualcomm