Intel Xe3P 架构 GPU D 系列获 vLLM 支持
Intel 新的 GPU D 系列现在能跑 vLLM 了,部署开源模型又多了一种非 NVIDIA 的硬件选择。
vLLM 官方宣布 Intel 团队完成了 vLLM 对 Xe3P 架构 GPU D 系列的支持。这意味着开源模型推理可以在 Intel GPU 上通过 vLLM 部署。该支持基于开放的 PyTorch 生态,为推理服务提供了除 NVIDIA 之外的新硬件选项。
Great work from the @IntelTech team bringing vLLM support to the new Xe3P-based Intel GPU D-series. More hardware choice for serving open models, with vLLM and the open PyTorch ecosystem.