Amazon 放出了 TorchNeuron,让 PyTorch 应用能跑在自家 Trainium 芯片上,想从 Nvidia 手里抢开发者,做 AI 基础设施选型的可以看看。
#PyTorch
PyTorchCon 今天有个企业级专场,Red Hat、NVIDIA 和 IBM 一起讲怎么把 AI 在企业里规模化,搞落地的可以去看看。
Jupyter Day 正在 PyTorch 大会现场进行,主题是 AI 辅助的数据科学工作流,做 notebook 相关开发的可以看看现场讨论什么。
做 PyTorch 训练的朋友可以看看,AWS Trainium 现在原生跑 PyTorch,代码一行不用改,大会现场还有 kernel 开发和 RL 的实操演示。
写 CUDA 内核调优到极限的朋友看这个:NVIDIA CompileIQ 接入了 Helion 自动调优器,编译器参数也能一起搜了。
AWS 把 Trainium 做成了 PyTorch 原生设备,10 月 20 日开源。想在非 GPU 硬件上跑训练的朋友可以留意。
用 PyTorch 的朋友看这个:AWS 让你的代码改一处配置就能跑在 Trainium 芯片上,不用重写,10 月 20 日开源。
NVIDIA 的 Chris Hoge 挑了 5 场 PyTorchCon 演讲,MoE 通信优化和 CUDA graphs 那几场对做训练性能的人挺实用。
LinkedIn 工程师要讲他们怎么用 Ray 把 CPU 预处理和 GPU 训练串起来跑强化学习,做分布式训练的可以听听他们的实践经验。
PyTorchCon 北美大会要来了,10 月 20-21 日在圣何塞,金牌赞助商刚公布,搞深度学习的可以看看去不去。
如果你写 PyTorch,现在不用改代码就能跑在 AWS 的 Trainium 芯片上,大会现场会演示训练和 kernel 开发全流程。
PyTorch 官方日本站的活动日程出来了,一天全是技术分享,早鸟票5000日元,用 PyTorch 的可以去看看议程。
去 PyTorch 大会优先排 NVIDIA 这 12 场:FP4 训练、vLLM 弹性专家并行、WAM 都有工程师现场答疑。
Ray 作者本人要在 PyTorch 大会讲它和 Kubernetes 怎么配合,搞分布式训练和 AI 基础设施的可以去 San Jose 现场听。
AMD 研究员做了个开源方案,把 KV 缓存淘汰策略和内核实现解耦,跑长上下文想省显存的可以看看怎么公平测不同策略。
IBM 在 PyTorchCon 2026 上会讲 vLLM 和 PyTorch 性能调优,还能现场看 llm-d 和 Spyre 加速器的演示,做推理部署的可以关注。
PyTorchCon 10 月在 San Jose 开,这次是 Google Cloud 的工程师讲推理基础设施怎么扛生产规模,做部署的可以关注。
IBM 工程师亲述怎么把自家 Spyre 芯片接进 PyTorch Inductor,想给新硬件做后端的人可以看看思路。
IBM 的 Carlos Costa 要在 PyTorchCon 讲怎么把开源模型推理做到生产级规模,做部署的可以去听。
IBM 背书的 llm-d 开源项目一年后升级,管推理扩容还支持多租户和零停机,10 月 San Jose 大会公布新消息,做推理部署的可以关注。
在圣何塞参加会议的话,可以提前一天上 PyTorch 官方面授培训,学费里含一张 250 美元的 PTCA 认证考试券。
PyTorch 牵头的开源 AI 活动周快截止报名了,有 PyTorchCon 和 MCPCon 等活动,想办分会场的人抓紧 10 月 15 日前提交。
PyTorchCon 北美大会 10 月 20-21 在 San Jose 办,Google 是钻石赞助商,议程从底层硬件讲到 Agent 系统,做深度学习的可以看看。
Meta 要在 PyTorch 大会上讲 KernelAgent,用多智能体自动写 Triton 内核,100 个任务上比 torch.compile 快 1.56 倍,写算子的人可以看看。