Microsoft 与清华论文：多数 GPU kernel 库故障源自编译器与环境而非 kernel 代码

Microsoft 与清华大学合作发表一篇论文，系统分析了 LLM 训练与推理中 GPU kernel 库的故障来源。研究团队读取了 FlashAttention、Triton、CUTLASS 等 7 个 GPU kernel 库的 300 份已关闭 GitHub issue 报告，包括其中的讨论与修复记录，并对每条按用户所见现象与根本原因进行标注。 统计结果显示，300 条 issue 中 60.33% 的故障可追溯到编译器、构建系统或运行时环境，只有 39.67% 与 kernel 库本身有关。占比最大的单一原因是软件不兼容——驱动、CUDA、框架与依赖包之间的版本冲突，共 76 条，占 25.33%。 这些故障的后果包括任务崩溃、挂起或静默产生错误输出，且难以定位。对工程师而言，排查方向应优先从编译与运行环境入手，而不是假定问题出在 kernel 实现上。