产品精选

SGLang Summit 首日:SGLang v1.0 与 Miles v0.2 发布

精选理由

LMSYS 在自家 Summit 上连发两个工具:SGLang 升到 v1.0,推理更快更省内存;Miles v0.2 把 RL 训练铺到更多硬件上。做模型部署或后训练的工程师可以关注,和 vLLM、TRL 对比着看更清楚。

SGLang Summit 第一天,LMSYS 团队在主舞台公布两项更新。Ying Sheng 宣布 SGLang v1.0 正式发布,重点在推理速度、内存使用效率和面向生产环境的灵活扩展能力。

正文

Banghua Zhu 同步介绍了 Miles v0.2,将生产级强化学习(RL)训练支持扩展到更多硬件和更多工作负载场景。两者组合形成从推理服务到 RL 训练的完整开源基础设施栈。

SGLang 是目前主流的开源推理引擎之一,与 vLLM 在生产部署中直接竞争。v1.0 版本号意味着 API 和架构进入稳定期,对需要长期维护的团队部署决策有参考价值。

原文 · LMSYS Org (SGLang)

Day 1 at #SGLangSummit going strong! Just now on the Main Stage: • Ying Sheng (@ying11231) announces SGLang v1.0: faster inference, better memory use, & flexible scaling for prod • Banghua Zhu (@BanghuaZ) introduces Miles v0.2: Production RL across more hardware and workloads https://t.co/9bxNh54a6V

产业坐标与信源核验

本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:SGLang、LMSYS、Miles、推理引擎,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「LMSYS Org (SGLang)」(@lmsysorg),经 AITOP 多维评分管线结构化提炼。

SGLang Summit 首日:SGLang v1.0 与 Miles v0.2 发布|AI热报