ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器 GPU 上运行
做浏览器端 AI 应用的可以试试,导出一次 .pte 文件就能在 Chrome 和 Safari 的 GPU 上跑 Llama 3.2、Whisper 这些模型,省掉了转 ONNX 之类的中间步骤。数据全程不出设备,做隐私敏感功能的开发者应该会感兴趣。
PyTorch 团队发布 ExecuTorch WebGPU 后端,开发者用 torch.export 导出一次,同一个 .pte 文件就能直接在 Chrome、Safari 等支持 WebGPU 的浏览器中运行,无需再转换到其他框架的格式。
该后端已支持多个主流模型,包括 Llama 3.2、Qwen3、Gemma 3、SmolVLM、SAM 2、Depth Anything V2、D-FINE、Real-ESRGAN 和 Whisper,覆盖语言、视觉和语音场景,并支持 LoRA 和 DiReFT 在端侧进行微调。
所有推理和微调都在浏览器标签页内本地完成,提示词、图片和音频数据不离开设备,对隐私敏感的应用场景有直接价值。团队还上线了 ExecuTorch WebGPU Playground,可以直接在浏览器里试用这些模型。
ExecuTorch WebGPU, PyTorch models on the GPU, in the browser.
Running a PyTorch model in the browser has usually meant converting it to another framework's format first. With ExecuTorch's new WebGPU backend, you export once with torch.export, and the same .pte file runs in WebGPU browsers such as Chrome and Safari. Everything runs locally in the tab, so prompts, photos and audio never leave the device.
The backend already runs Llama 3.2, Qwen3, Gemma 3, SmolVLM, SAM 2, Depth Anything V2, D-FINE, Real-ESRGAN and Whisper, and supports LoRA and DiReFT fine-tuning on-device.
By Julian Ng-Thow-Hing (@hing3074), Siddartha Pothapragada, Stephen Jia, Digant Desai (@digant23), and Bilgin Cagatay (@BilginCatay).
Read the post: https://t.co/Cwd35vpnch Try the models in the ExecuTorch WebGPU Playground: https://t.co/8sDhPAgrvK
本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:PyTorch、ExecuTorch、WebGPU、Llama 3.2,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「PyTorch」(@PyTorch),经 AITOP 多维评分管线结构化提炼。