SGLang-Neuron 上线 AWS Deep Learning Container，支持在 Trainium 上部署大模型

AWS 通过 Deep Learning Container 正式公开提供 SGLang-Neuron，开发者可以在 AWS Trainium 芯片上用 SGLang 服务模型并生成强化学习 rollout。 SGLang-Neuron 运行在原生 PyTorch 之上，并保持与 SGLang 相同的接口，已熟悉 SGLang 的用户不需要改写代码就能把推理和 RL rollout 工作负载迁到 Trainium 实例上。AWS 将其打包进官方容器镜像，减少了针对 Neuron SDK 单独配置环境的步骤。 对训练和推理分离部署的团队来说，这提供了除 NVIDIA GPU 之外的一条服务路径；对已经使用 Trainium 做训练的企业，推理与 rollout 也可以留在同一硬件体系内完成。