行业

华为 CloudMatrix 推理栈以 DeepSeek 为默认参照展示 V4.1 Flash

精选理由

华为用 DeepSeek 当参照秀自家算力:2 机柜就能训练,273K tok/s,不过序列长度和适用场景都有局限,看看具体数据。

华为继续以 DeepSeek 作为默认参照来宣传自家 AI 基础设施。新展示的 V4.1 Flash 配置只需 2 个机柜即可进行训练,吞吐达 273K tok/s。该配置序列长度为 4k,与 DeepSeek 当时的做法不同。按此速度约合每天不到 24B token,只适合微调场景。

原文 · Teortaxes

Huawei continues to hype up its stack using DeepSeek as default reference. V4.1 Flash is pretty nice: you can do training with just 2 racks, at 273K tok/s. (Seq len =4k though, which is not what DeepSeek did). That's just under 24B tok/day. Only good for funetuning. https://t.co/aHiRSUo2E5

华为 CloudMatrix 推理栈以 DeepSeek 为默认参照展示 V4.1 Flash|AI热报