产品官方一手

阿里云灵骏真武 M890 SuperPOD 首日适配 Kimi K3.1 Pro

Alibaba Cloud Lingjun Zhenwu M890 SuperPoD Adds Day-Zero Support for Kimi K3.1 Pro

精选理由

阿里云的灵骏 M890 SuperPOD 在 Kimi K3.1 Pro 发布当天就能跑这个 2.8T 参数的模型,用 vLLM 和 SGLang 部署,要自建推理集群的可以看看这套方案。

阿里云宣布灵骏真武 M890 SuperPOD 在 Moonshot AI 的 Kimi K3.1 Pro 发布首日即提供运行支持。Kimi K3.1 Pro 的参数规模为 2.8T,通过 vLLM 和 SGLang 框架完成部署适配。该方案还包含中为的邀请测试以及盘迈 920 网卡。

原文 · pandaily

Alibaba Cloud Lingjun Zhenwu M890 SuperPoD Adds Day-Zero Support for Kimi K3.1 Pro

Alibaba Cloud says its Lingjun Zhenwu M890 SuperPoD now runs Moonshot AI's 2.8T Kimi K3.1 Pro on day zero via vLLM and SGLang, with Zhongwei invite testing and Panmai 920 NICs.