技巧官方一手

AWS Trainium 模型支持查询:torch-neuronx 兼容性一览

Does Your Model Run on AWS Trainium? Look It Up

精选理由

要在 AWS Trainium 上跑模型的可以看看,Hugging Face 把 torch-neuronx 支持的模型整理成查询方式,不用再自己一个个试。

Hugging Face 发布了关于 torch-neuronx 模型支持情况的说明,帮助用户确认某个模型能否在 AWS Trainium 芯片上运行。用户可以按模型名查询支持状态,了解哪些模型已适配 Neuron SDK。对于在 AWS 上用 Trainium 做训练或推理的团队,这份支持列表能省去试错成本。

图片来源 · Hugging Face: Blog
  • AWS Machine Learning Blog10-21 20:00原文