DeepSeek V4-Flash 单 GPU 吞吐量对比引争议:72 TPS 仅为其三分之一
有人实测推理只有 72 TPS,对比 DeepSeek V4-Flash 在 DSpark 报告里的单 GPU 成绩直接少了三分之二,评论里讨论了 TileLang 内核和 npugraph_ex 还能优化多少。
有人实测推理只有 72 TPS,对比 DeepSeek V4-Flash 在 DSpark 报告里的单 GPU 成绩直接少了三分之二,评论里讨论了 TileLang 内核和 npugraph_ex 还能优化多少。
想写GPU内核但被CUDA细节劝退?TileLang用Python帮你搞定Tensor-Core GEMM和FlashAttention,自动处理线程映射和调优,省心。