训练 LLM 显存吃紧的可以看看:BitSparse 靠 ReLU 稀疏性无损压缩激活缓存,NanoGPT 和 Nemotron-H 上实测省三成显存,几乎不拖慢速度。
#Triton
共 12 条 · 7 天 2 条 · 30 天 6 条
信息流里打上「Triton」标签的资讯、产品与论文,按刊登时间排,新的在上。
10月16日
BitSparse:面向 ReLU 稀疏激活的无损压缩格式
10月13日
AWS 优化 Amazon SageMaker AI 上的 MoE 内核,吞吐量提升 10%
AWS 工程师公开了 MoE 推理内核的三项优化技巧,在 H200 上吞吐量提升 10%,做推理部署的可以参考。
10月10日
CrusoeAI 将赞助 PyTorchCon 北美站并举办 AI Infra Night
PyTorch 官方发的赞助消息,CrusoeAI 会讲 Triton 和 MoE 微调,搞基础设施的可以去现场或报名晚场活动。
10月9日
Meta 推出 KernelAgent:多智能体自动优化 Triton GPU 内核
Meta 要在 PyTorch 大会上讲 KernelAgent,用多智能体自动写 Triton 内核,100 个任务上比 torch.compile 快 1.56 倍,写算子的人可以看看。
10月4日
AMD 将在 PyTorchCon 2026 介绍 FlyDSL 集成 TorchInductor 方案
AMD 团队要演示怎么把自家 FlyDSL kernel DSL 接进 TorchInductor,还拿 Triton 跑分对比,做 GPU 优化的可以看看。
9月29日
KernelZero:Proposer 与 Coder 协同进化生成高性能 GPU Kernel
一个 7B 模型在 CUDA 上干过 Claude-4.5-Sonnet,靠的是两个小模型互相出题互相训练,生成 GPU kernel 的可以看看这套思路。
9月14日
9月10日
8月17日
华为开源AscendNPU IR:毕昇编译器核心支持Triton与Ascend 950
华为把毕昇编译器的核心AscendNPU IR开源了,支持Triton,能直接在Ascend 950上写算子,比之前好用多了。
7月12日
NVIDIA 基于块的 GPU 编程教程:从 cuTile 和 Triton 内核到 Flash Attention
手把手教你用 TileGym 在 Colab 上跑 cuTile 和 Triton,从向量加法到 Flash Attention,每个步骤都和 PyTorch 对照,适合想深入 GPU 编程的人。
6月15日
Flash-KMeans:IO感知型精确K-Means,在GPU上比FAISS快200倍以上
开源Flash-KMeans在H200上比FAISS快200多倍,做精确k-means不近似,适合大规模数据聚类。