产品

vLLM 社区将亮相 PyTorch Conference,10 月 20–21 日圣何塞举行

精选理由

用 vLLM 部署模型的朋友注意,10 月的 PyTorch Conference 有前缀缓存、KV 传输这些硬核议题,还有路线图讲解,感兴趣可以安排上。

vLLM 官方宣布将参加 10 月 20–21 日在圣何塞举办的 PyTorch Conference。官方议程包含注意力机制、KV 传输、前缀缓存等推理优化主题的演讲,以及 vLLM 项目路线图分享。日程可在官网查询并自定义安排。

图片来源 · vLLM
原文 · vLLM

The vLLM community is coming to #PyTorchCon, Oct 20–21 in San Jose! 🎉

Explore talks on attention, KV transfer, prefix caching, the vLLM roadmap & more.

📅 Build your schedule: https://t.co/M3WjwaYYa5

We can't wait to see you there! 🙌