vLLM 第一时间支持 NVIDIA Nemotron 3.5 Super VL
精选理由
NVIDIA 新出的开源多模态模型当天就能在 vLLM 上跑了，1M 上下文还能看视频和调工具，搞本地部署的可以试试。
vLLM 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Super VL。该模型总参数量 120B，每个 token 激活 12B，支持 1M token 上下文窗口。它是一个开源多模态模型，能处理文本、图像、文档和视频，并带推理能力与工具调用，可用于 agent 工作流。用户可通过 vLLM 直接部署。
原文 · vLLM
🎉 Day-0 support for NVIDIA Nemotron 3.5 Super VL in vLLM!
120B total parameters, 12B active per token, and a 1M-token context window. Text, images, documents and video in one open multimodal model, with reasoning and tool use for agent workflows.
Here is what is supported and how to get started. 🧵
1/4
