TCDA:为扩散语言模型自适应选择去噪调度,最高省 8 倍算力
扩散语言模型跑推理时其实不用每次都走完整去噪流程。这篇论文给了一套带统计保证的选择规则,LLaDA-8B 在 WMT14 上能省 8 倍计算。做部署或研究扩散 LM 的工程师可以直接照着实现,论文还提醒 ELF 采样器时间网格是随机的,对比实验前要先固定。
扩散语言模型跑推理时其实不用每次都走完整去噪流程。这篇论文给了一套带统计保证的选择规则,LLaDA-8B 在 WMT14 上能省 8 倍计算。做部署或研究扩散 LM 的工程师可以直接照着实现,论文还提醒 ELF 采样器时间网格是随机的,对比实验前要先固定。