技巧Agent 与开发者官方一手精选23:27AWS 优化 Amazon SageMaker AI 上的 MoE 内核，吞吐量提升 10%AWS 工程师公开了 MoE 推理内核的三项优化技巧，在 H200 上吞吐量提升 10%，做推理部署的可以参考。#SageMaker#MoE#Triton#FP8量化官方一手AWS Machine Learning Blog@Mona Mona原文稍后读已读值得跟进有用关注 SageMaker