模型Agent 与开发者多源确认精选12:37ReplaySSM 优化 Mamba2 推理:vLLM 支持 SSM 输入缓存与 MTPvLLM 和 NVIDIA 把 Mamba2 的解码内存开销压下来了,用 SSM 状态模型跑长文本的可以升级试试。#vLLM#Mamba2#ReplaySSM#FlashInfer4 个信源在谈事件专题官方账号vLLM@vllm_project5 个信源在谈原文稍后读已读值得跟进有用关注 vLLM