PyTorchCon 2026:Google、AWS 分别推出 TorchTPU 和 TorchNeuron
PyTorch 官方大会一波硬核更新:Google TPU 和 AWS Trainium 都能原生跑 PyTorch 了,做训练的可以看看 TorchTPU 和 TitanRL。
PyTorch 官方大会一波硬核更新:Google TPU 和 AWS Trainium 都能原生跑 PyTorch 了,做训练的可以看看 TorchTPU 和 TitanRL。
PyTorch 官方的 TorchTitan 大更新,DeepSeek-V4 和 Qwen3.5 都能跑 5D 并行了,Muon 优化器还能提速 79%,训大模型的得看看。
Cohere 的人在 PyTorchCon 上讲开源模型该怎么做得透明又安全,还讲了 TorchTitan 和 vLLM 怎么配合,做开源模型的可以看看。
Meta 的 PyTorch 负责人在 PyTorchCon 2026 上讲了他们内部的训练栈怎么反哺开源,还提到 Muse Spark Open 这些新组件,做框架和训练工程的人可以看看。
DatologyAI 做了 Zephon,在 TorchTitan 里换 GPU 数量恢复训练,8/32/64 卡的全局批次哈希都能对上 16 卡原始运行,做分布式训练的值得看看。
AMD和PyTorch合作,让GPU直接发起网络请求,分布式训练性能提升15%,想知道怎么做到的。
AMD 的工程师讲怎么在 1000 多张 MI355X 上跑 MXFP8 预训练,TorchAO 加 TorchTitan 的完整方案,做训练的可以听听
AMD 拿 1000 多张 MI355X 跑 MXFP8 预训练,还会讲 TorchAO 和 TorchTitan 的具体调优细节,搞训练的可以听听。