谷歌开源TorchTPU:PyTorch代码无需重写即可跑TPU
谷歌开源了TorchTPU,装个包就能让现有PyTorch代码直接跑TPU,不用重写代码,Llama、Qwen都能训。
谷歌团队开源了TorchTPU工具包,解决PyTorch代码难以高效运行在TPU芯片上的问题。开发者通过pip或Bazel在云端TPU主机安装该扩展包,无需重写核心算法即可训练和运行Llama、Qwen等主流大模型。工具包通过底层定制计算内核和代码编译缓存实现兼容,并支持数据并行和张量并行。
谷歌开源TorchTPU:让主流AI框架直接跑在谷歌TPU上
目前绝大多数AI开发者都习惯使用PyTorch来编写和训练模型,但这类代码通常专门为英伟达显卡优化,很难直接高效运行在谷歌自研的TPU加速芯片上。
谷歌团队开源了TorchTPU工具包,通过在底层定制专用的计算内核并接入代码编译缓存,用户只需在云端TPU主机上通过pip或构建工具Bazel安装该扩展包,就能无缝衔接现有工作流。
接入后,开发者无需重写核心算法,就能直接调用谷歌TPU来训练和运行主流大模型(如Llama、Qwen等)。模型能够自动发挥TPU硬件在数据并行和张量并行上的多芯片协同加速能力,同时兼容主流的编译优化接口,大幅降低了使用谷歌硬件运行前沿AI模型的门槛和调试成本。
项目地址:https://t.co/JyXAIjyY8K