vLLM 发布当日支持上海AI Lab Sage-A1.5 模型
上海AI Lab的Sage-A1.5刚发布vLLM就能跑了,35B MoE只激活3B,一条命令本地部署,想自己搭智能体的可以试试。
vLLM 宣布对 Sage-A1.5 提供 Day-0 支持,该模型由上海AI Lab(Shanghai AI Lab)发布,是一个 35B 总参数的 MoE 架构模型,每次激活 3B 参数。用户可以通过 vllm serve InternScience/Sage-A1.5 命令在本地部署运行。官方将其定位为可用于本地推理服务的智能体(agentic)模型。
🚀 Day-0 vLLM support for Sage-A1.5 (35B MoE, 3B active) from Shanghai AI Lab — agentic intelligence you can serve locally today:
vllm serve InternScience/Sage-A1.5
Congrats @sageai_official ! 🔥