PyTorch 2.15 发布:NCCL 新后端成默认,Blackwell 支持 NVFP4 解码
PyTorch 2.15 来了,583 人贡献了 3000 多次提交,Blackwell 上 4-bit 解码更快,Mac 上也支持 FP8 了,训练部署的都看看。
PyTorch 2.15 来了,583 人贡献了 3000 多次提交,Blackwell 上 4-bit 解码更快,Mac 上也支持 FP8 了,训练部署的都看看。
PyTorch 官方喊话开源路线,讲他们框架的开放立场,适合关心开源生态的人看看。
PyTorch 出了 TorchTPU,模型不用改代码就能跑 TPU,还接入了 torch.compile,想省钱跑推理训练的可以看看。
PyTorch 核心开发者讲了两个新工具,FlexShard 把存储分片和计算分片拆开,跑大模型训练的可以看看
PyTorch 生态年度大会开幕了,vLLM、Ray、DeepSpeed 这些项目都有专场,不到场也能看直播,做工程的同学可以挑几场听。