#调度

扩散语言模型跑得慢可能不是模型的问题，是调度策略拖了后腿。这篇把延迟砍了 5 倍以上，做推理服务的值得看看。