产品

Amazon 开源 TorchNeuron,让 PyTorch 代码直接跑在 Trainium 芯片上

精选理由

Amazon 把 PyTorch 代码直接编译到自家 Trainium 芯片上跑,开发者一行代码不用改,还开源了。

Amazon 发布 TorchNeuron,一个 PyTorch backend,可把 PyTorch 代码编译后原生运行在自家 AWS Trainium 训练芯片上,开发者无需修改原有代码。TorchNeuron 已在 GitHub 开源。Amazon 同时参与 PyTorch 项目,帮助移除与特定厂商芯片绑定的代码,让 PyTorch 保持硬件中立。Neuron 是 Amazon 针对 Trainium 的编译器套件名称。

图片来源 · Blognone
原文 · Blognone

Amazon ออก TorchNeuron คอมไพล์โค้ด PyTorch ไปรันบนชิป Trainium ของตัวเอง Body Amazon มีชิปเทรนปัญญาประดิษฐ์ AWS Trainium ของตัวเอง มานานพอสมควร แต่ปัญหาของชิปรุ่นใหม่ๆ คือซอฟต์แวร์ของวงการ AI มักไม่ได้ปรับแต่งให้ทำงานได้เต็มประสิทธิภาพบนชิปเหล่านี้ ซอฟต์แวร์ยอดนิยมของวงการนี้คือ PyTorch ที่ประสบปัญหาข้างต้น ล่าสุด Amazon จึงแก้ปัญหานี้ด้วยการออก TorchNeuron เป็นเลเยอร์ตรงกลางในการนำโค้ด PyTorch มารันบน Trainium ได้มีประสิทธิภาพมากขึ้น โดยที่นักพัฒนาไม่ต้องแก้โค้ดเดิมของตัวเองเลย ตัว TorchNeuron มีสถานะเป็น backend ของ PyTorch ที่รับโค้ดจาก PyTorch คอมไพล์ให้รันบน Trainium ได้แบบเนทีฟ (ชื่อ Neuron คือชุดคอมไพเลอร์ของ Amazon บน Trainium) ตอนนี้ TorchNeuron เปิดเป็นโอเพนซอร์สบน GitHub และ Amazon ก็บอกว่ากำลังเข้าไปช่วยโครงการ PyTorch ถอดโค้ดที่ผูกกับชิปค่ายใดค่ายหนึ่งแบบเจาะจง (คงไม่ต้องบอกชื่อว่าค่ายไหน) เพื่อให้ PyTorch มีความเป็นกลางทางฮาร์ดแวร์ และเป็นประโยชน์กับวงการนักพัฒนาในภาพรวมด้วย ที่มา - Amazon mk Tue, 20/10/2026 - 21:52