vLLM 社区将亮相 PyTorch Conference,10 月 20–21 日圣何塞举行
用 vLLM 部署模型的朋友注意,10 月的 PyTorch Conference 有前缀缓存、KV 传输这些硬核议题,还有路线图讲解,感兴趣可以安排上。
vLLM 官方宣布将参加 10 月 20–21 日在圣何塞举办的 PyTorch Conference。官方议程包含注意力机制、KV 传输、前缀缓存等推理优化主题的演讲,以及 vLLM 项目路线图分享。日程可在官网查询并自定义安排。
The vLLM community is coming to #PyTorchCon, Oct 20–21 in San Jose! 🎉
Explore talks on attention, KV transfer, prefix caching, the vLLM roadmap & more.
📅 Build your schedule: https://t.co/M3WjwaYYa5
We can't wait to see you there! 🙌