主要来源AWS Machine Learning Blog
查看原文事件专题 ·官方一手
SageMaker Inference 支持 NVIDIA MIG,可将单张 GPU 分区部署多个模型
AWS 宣布 Amazon SageMaker Inference 支持 NVIDIA Multi-Instance GPU(MIG)技术,能把一张 GPU 划分成多个硬件隔离的分区,每个分区可以独立运行一个模型。通过新增的两个可选 API 字段即可实现按分区部署模型。官方实测对比了分区方案与整张旧款 GPU 的使用效果,用于提升小型模型的 GPU 利用率。
当前结论
AWS 给 SageMaker 加了 GPU 分区功能,一张卡能跑多个模型,小模型部署终于不用浪费整张卡了。
7 个信源39° AI 热度最后更新 2026/11/6 18:01:00
证据链
7 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。