PyTorch 推出 TorchTPU,实现模型在 TPU 上的开箱即用运行
PyTorch 出了 TorchTPU,模型不用改代码就能跑 TPU,还接入了 torch.compile,想省钱跑推理训练的可以看看。
PyTorch 发布 TorchTPU,让模型无需改动即可在 TPU 上执行和迁移。该方案通过 eager execution 优化、torch.compile 集成和原生硬件加速来提升性能,官方称其推理和训练性能达到业界可比水平。更多细节见 PyTorch 官方博客。
TorchTPU enables seamless out-of-the-box model execution and TPU migration while delivering industry-competitive inference and training performance through eager execution optimizations, torch.compile integration, & native hardware acceleration.
Learn more on the PyTorch blog: https://t.co/mmsnVQHBQt