Ravi

general · 首次出现 2026-06-17 · 最近出现 2026-10-18 · 累计提及 12

综述

Ravi Gupta 是 AMD AI 软件方向的代表人物之一,近期以 AMD 团队成员身份活跃在 PyTorch 开源生态的推广场合,其相关工作的核心是大规模 MoE(混合专家)模型的高效推理方案。围绕他的公开亮相,可以看出 AMD 正试图通过开源推理框架争取 AI 算力市场的软件开发者。

Ravi Gupta 与 AMD 的 MoE 推理方案

  • Ravi Gupta, Shiksha Patel, and Rishi Madduri (@AMD...):PyTorch 官方账号预告了由 Ravi Gupta 等三位 AMD 成员参与的会议演讲安排,显示 AMD 在 PyTorch 大会上的议程分量不低。
  • AMD 将在 PyTorch 大会展示 MoRI + vLLM 跨 pod 的 MoE 推理方案:AMD 计划展示 MoRI 框架与 vLLM 结合的跨 pod 推理架构,目标是在多节点环境下提升 MoE 模型的服务效率,这是其与 CUDA 生态正面竞争的关键一环。
  • 性能优势高于预期:AMD 称 Venice 处理器比英伟达 Vera 快约 20%:AMD 宣称 Venice 处理器性能比英伟达 Vera 高约 20%,软件生态建设与硬件性能宣传正在同步推进。
  • 当前焦点与观察点

    目前 AI 推理基础设施的竞争焦点正从单卡性能转向多节点、跨 pod 的系统级效率,MoE 架构因参数量大、激活稀疏,成为检验推理栈能力的试金石。AMD 选择在 PyTorch 大会展示 MoRI + vLLM 方案,说明其策略是借开源社区降低开发者迁移门槛,而非单纯比拼硬件参数。同期 OpenAI 公布自研推理芯片 Jalapeno 的完整架构,新思科技也传出寻求与中国 AI 实验室合作的消息,推理芯片与软件栈的格局仍在快速变动。

    后续值得观察的点包括:MoRI 方案在真实生产负载中的吞吐与稳定性表现、vLLM 社区对 AMD 后端的支持深度,以及 Ravi Gupta 所在团队后续能否把大会上的演示转化为可复现的开源成果。对于关注国产算力替代和多云推理部署的开发者而言,这类跨厂商方案值得持续跟踪。

    相关报道

    10 条在档