IBM 与 Red Hat 在 PyTorchCon 2026 分享 Spyre 芯片与推理生态布局
IBM 讲了他们怎么把 Spyre 芯片接进 PyTorch 和 vLLM，还带 Red Hat 一起搞 CI/CD，做底层推理的可以看看。
IBM 的 Priya Nagpurkar 在 PyTorchCon 2026 的“From Silicon to Models at Scale”演讲中介绍了 IBM Spyre 芯片接入 PyTorch compiler 和 vLLM 的进展。她提到用 AI 工具把模型适配扩展到数千个模型。Red Hat 方面贡献了面向 out-of-tree 加速器的 PyTorch CI/CD 基础设施。演讲还涉及与 llm-d 社区合作推进大规模分布式推理，以及下一代 Spyre 硬件的预告。
Priya Nagpurkar (@IBM) shares how IBM and @RedHat contribute across the PyTorch ecosystem in “From Silicon to Models at Scale” at #PyTorchCon 2026.
Priya highlights work bringing IBM Spyre to the PyTorch compiler and vLLM, how AI tools help scale model enablement to thousands of models, and a look ahead at next-generation Spyre hardware.
She discusses Red Hat’s contributions to PyTorch and CI/CD infrastructure for out-of-tree accelerators, helping hardware backends keep pace with the community, alongside work with the llm-d community toward efficient distributed inference at scale.
- marktechpost04:33原文