做扩散模型理论或采样加速的读者值得关注——这篇用 Föllmer 过程替代传统反向 OU 过程,给出了更紧的 Wasserstein 误差界,对理解 DDPM 的采样质量与步数关系有直接帮助。
#扩散模型
共 220 条 · 7 天 19 条 · 30 天 61 条
5月19日
DDPM 采样误差的 Wasserstein 界新证明:Föllmer 过程视角
Dual-Rate Diffusion:交错轻重网络加速扩散模型推理
扩散模型推理慢是落地痛点,Dual-Rate Diffusion 用轻量网络复用特征,做图像生成的团队可以直接拿来加速现有模型,效果不打折。
5月15日
Embedded Language Flows:扩散模型用10倍数据实现文本生成突破
扩散模型终于能高效处理文本了,做NLP或生成式AI的团队可以关注这个新范式——数据需求降低10倍,性能反而更好,值得一试。
5月14日
Di-BiLPS:极稀疏观测下的双向潜变量PDE求解器
PDE求解在稀疏观测场景下一直是个难题,Di-BiLPS用潜空间扩散和对比学习解决了精度和效率的双重瓶颈。做科学计算或物理模拟的开发者,尤其是处理传感器数据稀疏的团队,值得关注这个新范式。
R-DMesh:视频引导3D动画的矫正动态网格流方法
做3D动画和内容生成的团队终于有了解决姿态错位痛点的方案——R-DMesh 能自动矫正网格姿态对齐视频,避免手动调整的繁琐,建议做动态资产制作的开发者点开看看。
5月13日
5月12日
论文19:10
ELF:基于连续嵌入空间的流匹配语言模型ELF展示了连续扩散模型在语言建模中的有效性,简化了技术迁移路径,可能降低语言生成模型的设计复杂度。其较少的采样步数有利于实际应用效率,值得关注。
5月11日
论文11:43
PET-Adapter:针对PET图像重建的测试时域自适应框架该研究通过测试时自适应解决了深度学习PET重建模型的泛化困境,显著降低了计算成本,为临床实时部署提供了可行方案。
arXiv cs.LG原文
论文11:43
Fast BLT: 字节级语言模型推理加速该工作直接解决字节级LLM的核心效率瓶颈,提出的混合推理策略(扩散+推测解码)为无分词器模型走向实际应用提供了可行路径。
arXiv cs.LG原文
论文11:42
NTM:四步采样的标准化轨迹模型NTM 通过将标准化流与轨迹建模结合,在少步生成和无似然性能间取得平衡,为扩散模型加速提供了新思路。对需要快速推理且关注可解释性的应用(如实时图像生成)具有实际意义。
arXiv cs.LG原文