arXiv 上的新论文,像素扩散模型不再二选一,MFlow 让模型自己学该用哪种预测方式,ConvRefiner 还能低成本补上高频细节,做生成方向的可以看看。
#扩散模型
一篇很实用的图像编辑论文:跑一次扩散模型,之后改焦点只要半秒,比 GenRefocus 快 462 倍,还附带了自建的 3 相机测试集。
一篇新论文:ADT 用扩散模型来给 3D 分子结构做 token 化,小分子按原子、蛋白按残基编码,重建时还能补回侧链细节,做分子生成方向的朋友可以看看。
Google DeepMind 这篇论文把监督学习和强化学习的好处合在一起,26 个稀疏奖励任务上都跑赢了以前的 RL 方法,搞 RL 的可以看看。
一篇论文,用多视角图像生成 LiDAR 点云,靠 DepthAnything3 加双分支 CFG 提升几何和语义对齐,做自动驾驶数据合成的可以看看。
一篇挺硬核的表示学习论文:作者把 tokenizer 和生成模型放一起算 flop 效率,结果比 DINO 和 LeJEPA 更抗塌缩,还给出了 scaling 规律。
生成出复制图之前就能查出扩散模型背了哪些训练数据,CelebA 和 Stable Diffusion v1.4 上的数字都给出来了,做模型审计的可以看看。
Odyssey-3 能生成会对你操作实时反应的互动世界,Flash 版免费可玩,还顺手在 Physics-IQ 拿了 66.1 的高分,去看看 demo。
改进 flow matching 训练的新论文,联合学路径和流,还修了低熵瓶颈问题,代码开源,做生成模型的可以看看。
Amazon AGI 新出了个循环扩散语言模型,平均分同时压过扩散和自回归两类基线,代码和权重都放出来了,可以自己跑跑看。
这篇论文改了 MCGDiff 的启动方式,用高斯桥把采样提前到中间时刻,粒子数不变的情况下误差降了约 2 倍,做扩散逆问题求解的可以看看。
一篇很巧的论文:让扩散模型在需要细节的地方用细 token、别处用粗 token,预训练模型不用重训就能提速,还能接智能体的规划布局。
科研朋友可以看看这篇:不用微调扩散模型,靠推理时搜索同时满足多个设计约束,6 个 DNA/蛋白/RNA 任务上联合成功率最高到基线 1.98 倍。
一篇方法论文:搞强化学习或扩散模型的朋友可以看看,SCF 不用重要性采样也能从 critic 给的未归一化密度里采样,训练还更快。
扩散模型解 PDE 反问题有坑,这篇论文证明输出空间优化会失准,换成 FunBCS 在输入空间优化,误差降 27-64% 还更快。