产品精选
SGLang 适配 AWS Trainium，基于 TorchNeuron 推出 Beta 版
精选理由
SGLang 现在能跑在 AWS 的 Trainium 芯片上了，靠 TorchNeuron 几乎没改代码就迁移完成，还跑通了异构 RL，做推理部署的可以看看。
SGLang 宣布支持 AWS Trainium 芯片，Beta 版已开放注册。此次适配基于 AWS 原生 PyTorch 后端 TorchNeuron，SGLang 的模型组件和抽象层基本无需改动即可迁移。团队还完成了首次端到端异构强化学习（RL）运行，细节写在博客中。
原文 · LMSYS Org (SGLang)
Welcome AWS Trainium to the SGLang family!
Built on TorchNeuron, AWS’s native PyTorch backend, so SGLang’s model components and abstractions carried over largely intact. Our write-up covers what’s in the beta, why we built on TorchNeuron from day one, and our first end-to-end heterogeneous RL run. Beta sign-up is in the blog!
https://t.co/Lhbb9IkXMq
