事件专题 ·多源确认

vLLM 上线 Recursive SI 的 Flint Day-0 支持:40B 参数仅 2.5B 激活

vLLM 宣布对 Recursive SI 的 Flint 提供 Day-0 支持。Flint 共 40B 参数,每个 token 仅激活 2.5B。借助 vLLM 的自定义 NVFP4 内核,单张 GB200 在 100K 上下文、不开投机解码的情况下达到 500 TPS。NVFP4 和 BF16 两种精度目前均可直接运行。

当前结论

vLLM 第一天就支持了 Recursive SI 的 Flint,40B 混合专家模型,单张 GB200 跑出 500 TPS,还支持 100K 长上下文。

3 个信源58° AI 热度最后更新 2026/10/21 16:45:06

证据链

3 个信源

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。