产品多源确认

Intel Xe3P 架构 GPU D 系列获 vLLM 支持

精选理由

Intel 新的 GPU D 系列现在能跑 vLLM 了,部署开源模型又多了一种非 NVIDIA 的硬件选择。

vLLM 官方宣布 Intel 团队完成了 vLLM 对 Xe3P 架构 GPU D 系列的支持。这意味着开源模型推理可以在 Intel GPU 上通过 vLLM 部署。该支持基于开放的 PyTorch 生态,为推理服务提供了除 NVIDIA 之外的新硬件选项。

原文 · vLLM

Great work from the @IntelTech team bringing vLLM support to the new Xe3P-based Intel GPU D-series. More hardware choice for serving open models, with vLLM and the open PyTorch ecosystem.