TorchNeuron 将 AWS Trainium 注册为 PyTorch 原生设备
AWS 把 Trainium 做成了 PyTorch 原生设备,10 月 20 日开源。想在非 GPU 硬件上跑训练的朋友可以留意。
AWS 的 TorchNeuron 通过 PyTorch 社区的硬件扩展接口,把 Trainium 注册为原生设备。项目定于 10 月 20 日的 PyTorch Conference 上开源。开发者使用 PyTorch 训练时可以直接选用 Trainium 硬件,无需额外的适配层。
More hardware choice for PyTorch developers: TorchNeuron registers @awscloud Trainium as a native device, built on the same extension points the community created to make PyTorch hardware-agnostic.
Open sourcing at PyTorch Conference on Oct. 20. https://t.co/HpO5M0cUAY https://t.co/YJH1ew2XWN