产品精选
Tri Dao 团队开源内核优化智能体,沉淀两年推理引擎调优经验
精选理由
FlashAttention 作者 Tri Dao 把团队两年的 GPU kernel 调优经验做成了自动优化智能体,写高性能算子的可以试试。
FlashAttention 作者 Tri Dao 宣布开源一个面向内核与推理引擎优化的智能体,将其团队两年积累的 GPU kernel 调优经验封装成可自动运行的 agent 工作流,目前已在其生产环境中使用。项目定位于自动生成和优化 kernel 代码,替代部分人工调优流程。
原文 · Tri Dao (FlashAttention)
Distilling most of our expertise in kernel and inference engine optimization into an agent loop that powers our production. A 2-year project that we're finally able to share