#SGLang
共 48 条 · 7 天 6 条 · 30 天 16 条
6月20日
6月19日
Laguna M.1模型获SGLang Day-0支持,225B MoE聚焦智能体编码
poolside刚发的225B MoE模型Laguna M.1,专为智能体编码设计,SGLang直接跑起来了,在SWE-bench上很强。
6月17日
GLM-5.2 发布:1M token 上下文,Terminal-Bench 2.1 得分 81.0
Zai_org 的 GLM-5.2 来了,1M 长上下文拿下了 81.0 的 Terminal-Bench 分数,比上一代高出一截,而且推理效率也优化了,值得上手试试。
6月16日
DFlash + Spec V2 推测解码:LLM推理吞吐量提升4.3倍以上
LMSYS 和 Modal 联手推出了 DFlash,让 Qwen 3.5 的推理速度比原生 MTP 快 1.5 倍,比基线快 4.3 倍,代码已开源,玩起来!
6月13日
6月12日
SGLang 首发支持 MiniMax-M3:428B 多模态 MoE 推理模型
SGLang 第一时间支持 MiniMax-M3,做多模态推理和长上下文应用的团队可以直接上手体验 428B 模型的稀疏注意力加速,编码和智能体任务表现值得一试。
6月4日
Step 3.7 Flash 部署到 Modal,配合 SGLang 提供 OpenAI 兼容接口
想低成本部署开源推理模型的团队,现在可以直接在 Modal 上跑 Step 3.7 Flash,免去 GPU 管理烦恼,还自带 OpenAI 兼容接口,建议试试。