AITOPAI热报

Dynamo

共 2 条相关 AI 资讯
8月29日
06:26
06:26官方账号NVIDIA AI@NVIDIAAI
精选
NVIDIA Dynamo是一个围绕推理引擎的工具，支持与SGL、vLLM和TensorRT-LLM等引擎协作。Dynamo能够帮助用户在多个GPU和节点上扩展推理性能。该工具通过优化推理流程来提升AI模型的部署效率。
AI产品NVIDIADynamo推理引擎
事件专题
推荐理由：NVIDIA解释了Dynamo如何与现有推理引擎配合工作，帮你扩展GPU推理能力。
原文
5月31日
01:52