主要来源TestingCatalog
查看原文事件专题 ·多源确认
SGLang 推理引擎新增对 AWS Trainium 芯片的支持
开源推理引擎 SGLang 宣布支持 Amazon 的 AWS Trainium 芯片。Meta 和 Google 等顶级实验室都在使用这款软件来运行 AI 模型。 在此之前,SGLang 已经支持 NVIDIA、AMD、Intel 和 Google 的芯片。新增 Trainium 后,AI 公司可以按自己的流水线选择最合适的芯片,而无需更换推理软件。其工作方式是接收请求、在芯片上运行模型,然后同时把结果返回给大量用户。 除了文本模型,SGLang 还能运行 FLUX 和 Wan2.2 这类图像与视频模型。对使用 AWS 自研芯片的企业来说,这意味着可以在熟悉的软件栈上部署 Trainium,减少对 NVIDIA 生态的依赖。
当前结论
做推理部署的可以关注:SGLang 把 AWS Trainium 也收进了支持列表,加上原有的 NVIDIA、AMD、Intel 和 Google 芯片,一套软件就能切换多家硬件。如果你的团队在评估 Trainium 成本优势,现在不用换框架就能试。跑 FLUX、Wan2.2 这类视频模型的也用得上。
11 个信源63° AI 热度最后更新 2026/11/17 18:28:25
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。