#上下文并行

训练 diffusion drafter 的人可以看看，Split-KV 在 CP 64 下最高加速 3.67 倍，负载均衡还快三个数量级，代码已开源在 GitHub。