Ravi Gupta 是 AMD AI 软件方向的代表人物之一,近期以 AMD 团队成员身份活跃在 PyTorch 开源生态的推广场合,其相关工作的核心是大规模 MoE(混合专家)模型的高效推理方案。围绕他的公开亮相,可以看出 AMD 正试图通过开源推理框架争取 AI 算力市场的软件开发者。
Ravi Gupta 与 AMD 的 MoE 推理方案
当前焦点与观察点
目前 AI 推理基础设施的竞争焦点正从单卡性能转向多节点、跨 pod 的系统级效率,MoE 架构因参数量大、激活稀疏,成为检验推理栈能力的试金石。AMD 选择在 PyTorch 大会展示 MoRI + vLLM 方案,说明其策略是借开源社区降低开发者迁移门槛,而非单纯比拼硬件参数。同期 OpenAI 公布自研推理芯片 Jalapeno 的完整架构,新思科技也传出寻求与中国 AI 实验室合作的消息,推理芯片与软件栈的格局仍在快速变动。
后续值得观察的点包括:MoRI 方案在真实生产负载中的吞吐与稳定性表现、vLLM 社区对 AMD 后端的支持深度,以及 Ravi Gupta 所在团队后续能否把大会上的演示转化为可复现的开源成果。对于关注国产算力替代和多云推理部署的开发者而言,这类跨厂商方案值得持续跟踪。