Helion 引入编译时启发式,免 autotuning 即可选高性能内核配置
写 GPU 内核的朋友可以看看:Helion 编译时就帮你选好配置,不用再等 autotuning 跑一遍。在 H100 上比手写 Triton 快 18%,比 vLLM 的 CUDA 内核快 27%,做推理优化的团队值得试一下。
写 GPU 内核的朋友可以看看:Helion 编译时就帮你选好配置,不用再等 autotuning 跑一遍。在 H100 上比手写 Triton 快 18%,比 vLLM 的 CUDA 内核快 27%,做推理优化的团队值得试一下。
美国又发芯片钱了,Helion 拿走 1.75 亿美元做核聚变用的功率半导体,还有家公司的氮化镓直接瞄准 AI 数据中心,政府这次还要拿少数股权。
写 CUDA 内核调优到极限的朋友看这个:NVIDIA CompileIQ 接入了 Helion 自动调优器,编译器参数也能一起搜了。
AMD 出了个专门跑智能体负载的机架 Helion,CPU、GPU 能自己混搭,纯 CPU 版能堆到 32,768 核,规范还要开源给 OCP。
PyTorch 官方把 Helion 接进 vLLM,一套 GEMM 代码自动选最优算法,在 Hopper 上跑赢 CUTLASS 和 DeepGEMM,搞推理部署的可以看看。