#RDMA
共 5 条 · 7 天 1 条 · 30 天 2 条
信息流里打上「RDMA」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月16日
10月11日
AMD 将在 PyTorch 大会展示 MoRI + vLLM 跨 pod 的 MoE 推理方案
AMD 把 MoRI 通信栈接进 vLLM，让 MoE 推理能跨 pod 用 RDMA 分摊专家和搬 KV cache，搞大模型部署的可以看看基准数据。
9月11日
6月1日
5月29日
AMD 把 MoRI 通信栈接进 vLLM，让 MoE 推理能跨 pod 用 RDMA 分摊专家和搬 KV cache，搞大模型部署的可以看看基准数据。
