PyTorchCon 2026：IBM、Google Cloud、Red Hat 联合演示 llm-d 生产级推理

官方账号PyTorch@PyTorch

推文

查看原推分享

在 PyTorchCon 2026 现场，IBM 的 Carlos Costa、Google Cloud 的 Abdullah Gharaibeh 和 Red Hat 的 Stephen Watt 联合进行题为"Open Source Inference at Production Scale"的演讲。演讲包含开源推理项目 llm-d 的现场演示，展示其在生产规模的运行。三方分别代表三家公司的开源协作。