模型精选
MiniMax M3.1 Flash 在 vLLM 上规模化部署运行
精选理由
MiniMax 新的 M3.1 Flash 已经有人在生产环境规模化跑了，还带 SLA，优化代码直接回馈 vLLM，部署的同学可以关注。
vLLM 项目发帖确认 MiniMax M3.1 Flash 已在推理服务商 InferAct 的支持下投入规模化生产环境，并提供 SLA 保障。InferAct 在服务过程中做出的工程优化已回流到上游 vLLM 代码库。vLLM 团队称这一模式是开源推理生态的典型运作方式。
原文 · vLLM
Great to see MiniMax M3.1 Flash running in production at scale, served by @inferact with guaranteed SLAs — and the engineering improvements flowing back upstream to vLLM. This is what the open-source inference ecosystem is all about. Welcome @MiniMax_AI! 📷
