技巧精选
vLLM支持Ling-3.1-flash模型上线
精选理由
vLLM上线Ling-3.1-flash支持，大模型部署更简单
vLLM现已支持Ling-3.1-flash模型。该模型总参数量约560B，每激活约25B参数，支持高达1M上下文长度。开发者可使用该模型构建网站、移动界面和交互式原型，并通过vLLM在自己的基础设施上部署。
原文 · vLLM
🎉 Day-0 support for Ling-3.1-flash is here in vLLM! ~560B total parameters, ~25B active per token, and up to 1M context. From a rough brief to websites, mobile UIs, and interactive prototypes—serve it on your own infrastructure with vLLM. Congrats to @AntLingAGI!
- karminski-牙医 (AI工具)10-13 10:15原文
