产品精选72°

Google 与 Meta 联合推出 TorchTPU:PyTorch 原生 TPU 后端

精选理由

Google 和 Meta 一起给 PyTorch 做了个原生 TPU 后端,训练推理框架都能直接用,还能用智能体自动把 GPU 任务迁到 TPU 上。

在 PyTorchCon 2026 上,Google Cloud 的 Bill Jia 和 Meta 的 Zongwei Zhou 发布了 TorchTPU,一个面向 Google TPU 的 PyTorch 原生后端。TorchTPU 由 Google 和 Meta 开源合作开发,与 PyTorch 核心维护者密切协作。它已集成 Hugging Face Transformers 用于建模、TorchTitan 用于训练、vLLM 和 SGLang 用于推理服务。演示中还展示了如何用智能体将复杂模型工作负载从 GPU 迁移到 TPU,并利用智能体做量化、自定义内核生成和分片策略优化。

原文 · PyTorch

Bill Jia (@GoogleCloud) and Zongwei Zhou (@Meta) introduce TorchTPU, a native PyTorch backend for Google TPUs, and agentic developer workflows at #PyTorchCon 2026.

TorchTPU is an open source collaboration between Google and Meta, developed in close partnership with PyTorch core maintainers. It integrates with Hugging Face Transformers for modeling, TorchTitan for training, and vLLM and SGLang for serving.

They demonstrate how long-horizon agentic workflows can migrate complex model workloads from GPUs to TPUs. They explore using agents for performance optimization, including quantization, custom kernel generation, and advanced sharding strategies.

Watch the keynote livestream: https://t.co/6TtaEkvsHz