NVIDIA、AMD、Intel 共同加入 SGLang 开源推理联盟
11 月 12 至 13 日在旧金山举办的 SGLang Summit 上,SGLang 推理引擎联盟正式成立,创始成员包括 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。联盟公告引用 Deloitte 数据称,2026 年推理将占全部 AI 算力的三分之二,成为各家硬件厂商争夺的关键战场。 治理结构上,各家成员一年开两次路线图会、出人员和测试资源,但技术拍板权和代码合入权仍留在 SGLang 维护者手中,避免单一硬件大厂主导项目方向。会上同时发布多项进展:SGLang v1.0 将关键路径用 Rust 重写,实现零开销调度、分层缓存和 PD 分离,已有 330 多家机构使用、217 个模型支持 Day-0;RadixArk 与 Intel 合作优化 Xeon CPU 和 GPU,与 AWS Annapurna Labs 合作的 SGLang-Neuron v0.1.0 开源公测,跑上 Trainium2 和 Trainium3。 硬件大厂加入开源推理底座的意义在于:SGLang 已运行在几十万张 GPU 上,谁不接入这套生态,自家硬件在生产环境中就缺乏竞争力。RadixArk 的强化学习框架 Miles 也更新到 v0.2,支持 NVIDIA、AMD 显卡并早期支持 Google TPU。对开发者而言,跨硬件统一的推理栈意味着部署迁移成本下降;对企业买家而言,选卡时可以更多参考同一套开源基准,而非各厂商的私有优化。
当前结论
三家卖卡的厂商头一回坐到一张桌子上,围着 SGLang 这套开源推理引擎转。v1.0 用 Rust 重写了关键路径,330 多家机构已经在用。做推理部署的工程师和企业选型的人都该看看,以后选卡得先看它接不接这套底座。
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。