NVIDIA 在 PyTorchCon 2026 讲解智能体负载在 Vera Rubin 上的性能优化
NVIDIA 的人拆解了跑智能体负载时 PyTorch、Triton、vLLM 在 Vera Rubin 上的优化思路，做推理部署的可以看看。
NVIDIA 的 Ujval Kapasi 在 #PyTorchCon 2026 发表主题演讲，分析智能体工作负载对 PyTorch 技术栈的要求。一次请求可能触发长链推理、工具调用、代码执行、数据搬运和分布式推理，带来新的瓶颈。演讲以 Vera Rubin 为案例，覆盖 CPU、GPU、内存与网络的软硬件协同设计，并介绍 PyTorch、Triton 和 vLLM 在该平台上的软件优化工作。
Ujval Kapasi (@nvidia) examines what agentic workloads need from the PyTorch stack in “PyTorch Performance for Agents on Vera Rubin” at #PyTorchCon 2026.
A single request can trigger long chains of reasoning, tool calls, code execution, data movement, and distributed inference, introducing new bottlenecks and optimization opportunities.
Using Vera Rubin as a case study, he explores hardware and software co-design across CPUs, GPUs, memory, and networking. The keynote covers software optimizations and work across PyTorch, Triton, and vLLM on Vera Rubin.