主要来源vLLM
查看原文事件专题 ·多源确认
AMD MI355X 在 Kimi K3 推理上性能超 NVIDIA B300 24.4%
vLLM 团队测试了 8 卡 AMD MI355X 集群在 Moonshot Kimi K3 模型上的服务表现。在 SemiAnalysis 的 AgentX 智能体编程基准、每用户 50 tok/s 的设定下，MI355X 达到 7,567 tok/s/GPU 吞吐，比 NVIDIA HGX B300 的 6,083 tok/s/GPU 高出 24.4%，每美元 token 数多 87.4%。文章拆解了 vLLM 优化、AMD kernel 和硬件细节如何缩小差距，并给出定位 GPU 瓶颈的排查方法。
当前结论
AMD 卡跑 Kimi K3 吞吐反超 NVIDIA B300 四分之一，每美元 token 还多 87%，文中还有 vLLM 瓶颈排查套路，自己搭推理服务的可以看看。
11 个信源61° AI 热度最后更新 2026/10/16 21:34:48
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。