产品

ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器 GPU 上直接运行

精选理由

在浏览器里跑 PyTorch 模型不用再转 ONNX 或 TFJS 了,导出一个 .pte 文件就能在 Chrome 和 Safari 的 GPU 上跑 Llama 3.2、Whisper 这些模型,还能在本地做 LoRA 微调。做 Web 端推理或关注隐私部署的开发者应该试试官方的 Playground。

PyTorch 团队发布 ExecuTorch 的 WebGPU 后端,开发者在浏览器 GPU 上运行 PyTorch 模型时,不再需要先转换到其他框架的格式。用 torch.export 导出一次,同一个 .pte 文件就能在 Chrome、Safari 等支持 WebGPU 的浏览器中运行。

正文

所有推理都在浏览器标签页内本地完成,用户的提示词、照片和音频不会离开设备。后端已适配 Llama 3.2、Qwen3、Gemma 3、SmolVLM、SAM 2、Depth Anything V2、D-FINE、Real-ESRGAN 和 Whisper 等模型,覆盖文本、视觉和语音场景,并支持在设备端进行 LoRA 和 DiReFT 微调。

这一方案由 Meta 团队成员 Julian Ng-Thow-Hing、Siddartha Pothapragada 等人开发,降低了浏览器端部署模型的工程成本。团队还上线了 ExecuTorch WebGPU Playground,可以直接在浏览器里试用这些模型。

原文 · PyTorch

ExecuTorch WebGPU, PyTorch models on the GPU, in the browser.

Running a PyTorch model in the browser has usually meant converting it to another framework's format first. With ExecuTorch's new WebGPU backend, you export once with torch.export, and the same .pte file runs in WebGPU browsers such as Chrome and Safari. Everything runs locally in the tab, so prompts, photos and audio never leave the device.

The backend already runs Llama 3.2, Qwen3, Gemma 3, SmolVLM, SAM 2, Depth Anything V2, D-FINE, Real-ESRGAN and Whisper, and supports LoRA and DiReFT fine-tuning on-device.

By Julian Ng-Thow-Hing (@hing3074), Siddartha Pothapragada, Stephen Jia (@ssjia614), Digant Desai (@digant23), and Bilgin Cagatay (@BilginCatay) (@Meta)

Read the post: https://t.co/2qvmvoN0XE Try the models in the ExecuTorch WebGPU Playground: https://t.co/8sDhPAfTGc

产业坐标与信源核验

本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:PyTorch、ExecuTorch、WebGPU、Llama 3.2,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「PyTorch」(@PyTorch),经 AITOP 多维评分管线结构化提炼。