NVIDIA 开源模型这次真香,Super VL 比上代聪明一倍还省一半 token,Bolt 更是小体积逼近 Ultra,本地部署党可以看看。
#NVFP4
共 13 条 · 7 天 1 条 · 30 天 2 条
信息流里打上「NVFP4」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月15日
NVIDIA 发布 Nemotron 3.5 Super VL,登顶美国开源权重模型榜首
9月22日
SGLang × Qwen × NVIDIA 三方合作:用 NVFP4 KV Cache 突破长上下文与 Agentic 推理瓶颈
SGLang、Qwen和NVIDIA联手推出NVFP4 KV Cache,4-bit精度下1.78倍容量提升,长上下文推理提速近80%。
9月4日
8月21日
7月24日
7月16日
SGLang在8xB300上以500 TPS服务GLM5.2 NVFP4 Agentic工作负载
SGLang让GLM5.2在B300上单用户跑500 tok/s,交互延迟几乎不随上下文增长,对多轮Agent任务很实用。
6月27日
6月9日
NVIDIA Blackwell 平台用 NVFP4 精度训练 Llama 3 8B/405B,速度提升 1.31-1.73 倍且零精度损失
训练速度提升 1.3-1.7 倍且零精度损失,做大规模模型训练的团队可以直接在 Blackwell 上尝试 NVFP4,省时省成本。
5月30日
NVIDIA 发布 DeepSeek-V4-Pro-NVFP4 修复版
NVIDIA 官方修复版解决了 DeepSeek-V4 在自家硬件上的精度和稳定性问题,用 NVIDIA GPU 做推理的团队可以直接拉取使用,省去自己调优的麻烦。
5月23日
NVIDIA Research 发布 LongLive-2.0:长视频生成系统方案
长视频生成一直受限于计算和内存瓶颈,NVIDIA 这次从系统层面给出了端到端方案。做视频生成模型训练或部署的团队,可以直接参考这套 NVFP4 对齐方法,提升效率。
5月19日
5月13日