NVIDIA 的 Chris Hoge 挑了 5 场 PyTorchCon 演讲,MoE 通信优化和 CUDA graphs 那几场对做训练性能的人挺实用。
#CUDA
Modal ARR 破 10 亿美元还融了 7.5 亿,顺带推荐他家那份从 CUDA 讲到性能分析的 GPU 术语手册,写得真清楚。
微软这台 128GB 内存的 Surface Laptop Ultra 卖断货了,5899 美元。贵是贵,但能跑 CUDA,AI 开发者买来直接开干,不用折腾兼容性。
老黄难得登上微软发布会,聊了段 1995 年的旧事,讲清了 Windows、GeForce 和 CUDA 这条线的来龙去脉。
英伟达发布会说 RTX Spark 测了 1200 多款应用,DirectX 和 CUDA 程序都能本地跑,想搞本地 AI 的可以关注下。
一个 7B 模型在 CUDA 上干过 Claude-4.5-Sonnet,靠的是两个小模型互相出题互相训练,生成 GPU kernel 的可以看看这套思路。
Modal 出了一份免费 GPU 术语手册,从 CUDA 执行模型到性能调优一条链讲清楚,想搞懂 GPU 编程的可以当教材啃
英伟达首次让 Windows Arm64 系统原生支持 CUDA,为 RTX Spark PC 铺路,开发者现在可以直接在 Windows Arm64 上编译 CUDA 应用。
想又快又稳地优化CUDA内核?Kernel Forge用MCTS自动探索,比手动写靠谱多了,实测14个内核超基线。
Claude 自己一周末就调通了 AMD 新显卡,人类工程师全程没写代码。AMD 还给 AI 出了专用工具,以后换芯片可能跟装 App 一样简单。
Together AI搞了个新基准ParallelKernelBench,专门测AI写多GPU CUDA代码的能力,比单核测试更贴近真实场景。
Together Compute搞了个ParallelKernelBench,专门测LLM能不能写好复杂的多GPU内核,比单GPU难多了,感兴趣的话可以去现场听分享。
MLX打通CUDA后,做本地AI推理的开发者终于可以一套代码跑通Mac和NVIDIA显卡,省去PyTorch兼容折腾,建议关注这个框架的跨平台潜力。