多GPU 相关 AI 资讯 · AITOP · AI热报

7月13日

10:59

10:59

官方账号Together AI@togethercompute

精选

Together AI团队在@aiDotEngineer大会上发布了ParallelKernelBench，一个开源基准测试。该基准专门评估大语言模型能否为通信密集型多GPU工作负载编写高效的CUDA内核。与现有单GPU测试不同，ParallelKernelBench聚焦真实场景下的并行内核性能。开发者可使用该基准对比不同LLM的代码生成质量。

AI模型 ParallelKernelBench Together AI CUDA

推荐理由：Together AI搞了个新基准ParallelKernelBench，专门测AI写多GPU CUDA代码的能力，比单核测试更贴近真实场景。

6月29日

13:51

13:51

官方账号Together AI@togethercompute

精选

ParallelKernelBench评估了LLMs编写多GPU内核的能力，包含87个来自Megatron-LM、DeepSpeed、DeepEP、TensorRT-LLM、NeMo-RL等真实代码库的问题。测试结果显示LLMs在单GPU内核上表现良好，但在多GPU场景下完全失败。该研究由Willy Chan等人完成，揭示了当前LLM在多GPU编程中的核心缺陷。

AI模型 ParallelKernelBench Megatron-LM DeepSpeed

推荐理由：新基准ParallelKernelBench发现，LLM写单GPU代码还行，但多个GPU一起就瞎了。想看看AI编程到底卡在哪？