产品精选

Amazon 发布 TorchNeuron:PyTorch 原生支持 Trainium 训练

精选理由

在 Trainium 上跑 PyTorch 的朋友看这个:Amazon 出了原生后端,支持 torch.compile,还带性能剖析工具。

在 PyTorchCon 2026 上,Amazon 的 Robert Hundt 介绍了 TorchNeuron,这是面向 AWS Trainium 芯片的 PyTorch 原生后端。它支持 eager execution 和 torch.compile,开发者可以用熟悉的 PyTorch 代码和分布式训练 API 直接在 Trainium 上训练。演讲还演示了 vLLM-Neuron 如何用 torch.compile 做推理服务,以及 Neuron Explorer 如何从 PyTorch 层一路追踪剖析到硬件指令。

原文 · PyTorch

Live from #PyTorchCon 2026, Robert Hundt (@Amazon) introduces TorchNeuron, the native PyTorch backend for @awscloud Trainium.

Robert shows how TorchNeuron supports eager execution and torch.compile, letting developers train on Trainium using familiar PyTorch code and distributed training APIs.

He also covers how vLLM-Neuron uses torch.compile for serving, and how Neuron Explorer lets developers profile execution from PyTorch down to hardware instructions. @AmazonScience