vLLM 和 NVIDIA 把 Kimi K3 推理速度干到了单批 842 tokens/s,还公开了完整 kernel 实现和评测细节,做推理优化的可以细看。
#NVIDIA
NVIDIA 的 Chris Hoge 挑了 5 场 PyTorchCon 演讲,MoE 通信优化和 CUDA graphs 那几场对做训练性能的人挺实用。
NVIDIA 开源了一个中间训练配方,给 Nemotron 加一段 500B token 的软件工程数据训练,SWE-bench 多语言直接从 55.8 涨到 62.8,自己训练编程智能体的可以照抄。
DeepSeek 开源了推理更强的 V4.1-Flash-1017,Perplexity 也开源了两款决策模型,程序员和折腾党今天能下载的好东西不少。
一位干了 20 年 CAD 的老兵分析国产 3D CAD 卡在哪,讲透了中望、新迪这些厂商的路线差异,还聊了 NVIDIA 开源 USD BRep 后 AI 能不能帮创业团队从零写内核,观点很实在。
DLSS 5 现在只有《NBA 2K27》官方支持,社区直接把新版模型抠出来塞进别的游戏,实测帧率能涨三到四成,玩游戏的可以看看。
FPT 和 NVIDIA 把越南合成人物数据集扩大了 10 倍,做越南本地化 Agent 应用的人可以直接拿来用。
NVIDIA 盘点了一圈合作方怎么拿 Nemotron 3.5 Super VL 做后训练,想参考别人微调视觉语言模型思路的可以翻翻这个推文串。
Actual Computer 发了个案例,教你把 NVIDIA DGX Station 当部门级 AI 工厂用,想搭本地算力的可以看看。
NVIDIA 开源了一个 120B 多模态智能体模型,每 token 只激活 12B,跑智能体任务比大 5 倍的 Ultra 还快,ms-swift 里就能微调。
越南媒体上手了第一批跑 NVIDIA RTX Spark 的笔记本,ASUS ProArt P16,128GB 内存加 4K OLED,看看本地 AI 跑起来什么样。
NVIDIA 工程师又把 ReflectionAI 的吞吐量从 70K 拉到约 90K 了,跑 Hugging Face 部署的可以看看这次优化细节。
AI 卡脖子的问题从芯片变成电力了,Microsoft、Google、Amazon 都开始自己锁电源,连核电都投,视频里讲得挺清楚的。
在 NVIDIA 做了七年机器人产品营销的人出来说,行业连积木都没搭好,跟那些喊通用模型马上改变机器人的人观点完全相反,听听她怎么讲。
Nous Research 的 Hermes Agent 直接内置进 NVIDIA RTX Spark 新笔记本了,Windows 设置流程里选一下就能本地跑智能体。
Reflection AI 放出了 501B 的开源 MoE 模型 Beam,权重直接可用,还附了 BF16、FP8、NVFP4 三种精度版本,感兴趣的可以下载试试。
NVIDIA 把印度语言预训练的语料方案开源了,2.8 万亿 tokens 加完整数据管线,做多语言训练的可以直接抄作业。
ComfyUI 悬赏 2.5 万美元,让大家开源复刻 Higgsfield 没兑现的开源承诺,还拉来 NVIDIA 和 MiniMax 赞助,会用 ComfyUI 的可以冲一把。
NVIDIA 新一代 Vera Rubin NVL72 的跑分出来了,跑 DeepSeek V4 Pro 每兆瓦吞吐量是上一代的 5.7 倍,还刷出 906 tok/s 的单用户最快速度。
Black Forest Labs 开源了 5.6B 的 FLUX 3 Image Klein,一张消费级 RTX 显卡就能跑,还能出 4K 图和像素级编辑。
NVIDIA 的多模态推理模型 Nemotron 3.5 Super VL 能在 Ollama 上一条命令本地跑,单卡智能体吞吐号称高 5 倍,动手党可以试试。
RTX 5090 在美国官方商城下架了,Micro Center 也不卖了,中国版 5090 D v2 还在卖 16499 元,想入手的可以看看这篇。
NVIDIA 把 Nemotron 3.5 Bolt 这个多模态模型压到 24GB 就能跑,一条命令就能在本地跑智能体任务,试试看。
NVIDIA 的 NemoClaw 拿下了 TIME 2026 最佳发明,主打做 AI 智能体安全防护,做 Agent 开发的可以看看。
NVIDIA 开源了个 120B 的多模态模型,激活只有 12B,一块 DGX Spark 就能跑,还有两个边缘小模型,玩本地部署的可以看看。
NVIDIA 放了个 74B 总参数但只激活 9B 的模型,24GB 显存就能跑本地智能体,RTX Spark 用户可以直接上手试。
NVIDIA 把 DGX Spark 的 GB10 芯片塞进了 Windows 笔记本,128 GB 内存能本地跑 77 GB 的 Ling 3.0 Flash,实测比 M5 Pro 快一倍,搞本地部署的看看。
NVIDIA 的 Nemotron 3.5 Super VL 进 Perplexity 了,Pro 和 Max 用户现在就能用,还开放了 Agent API,喜欢多模态的可以去试试。
NVIDIA 的 120B 视觉模型被压到 59.3GB,64GB Mac 就能本地跑,量化后还保留近九成性能,附了下载链接。
Perplexity 的 Pro 和 Max 用户现在能用 NVIDIA 的 Nemotron 3.5 Super VL 了,开发者也能通过 Agent API 调用,多模态任务可以试试。