产品Agent 与开发者精选01:17vLLM 推出 TorchTPU 后端,让 Google Cloud TPU 更易用用 vLLM 的朋友注意:TPU 现在有官方后端了,Pallas kernels 和多机并行都开源,贡献者还能白嫖免费 TPU 算力。#vLLM#Google Cloud TPU#Pallas kernels#推理部署Xianbao Qian@Xianbao_QIAN原文稍后读已读值得跟进有用关注 vLLM