模型

Moonshot AI 开源 Kimi K3.1 Pro 权重,本地部署需 8 张 B300

精选理由

Kimi K3.1 Pro 权重开放下载了,2.8 万亿参数,不过想自己跑得准备 8 张 B300,约 60 万美元起步。

Moonshot AI 在 Hugging Face 上发布了 Kimi K3.1 Pro 的模型权重。该模型参数量达 2.8 万亿,仅权重文件就约 1.56 TB。若想本地运行,一种可行配置是 8 张 NVIDIA B300 GPU 加 2.3 TB 显存的服务器,估算硬件成本在 55 万至 65 万美元之间。

原文 · kimmonismus

Moonshot AI just released the Kimi K3.1 Pro weights on Hugging Face.

The model has 2.8 trillion parameters, and the weights alone reportedly take up around 1.56 TB.

Want to run it locally? One possible setup is a server with 8 NVIDIA B300 GPUs and 2.3 TB of GPU memory. Estimated hardware cost: $550,000–$650,000.

Good luck.

Moonshot AI 开源 Kimi K3.1 Pro 权重,本地部署需 8 张 B300|AI热报