#记忆化

扩散模型老是背训练图？这篇论文给出一个热力学判据，能直接检测模型是不是在记忆化，做扩散模型的同学可以看看。

这篇论文解释了模型怎么分配容量来记噪声还是学规律，用 Fisher 信息几何就能看清楚，做可解释性研究的可以看看。

一篇有意思的论文：图扩散模型表面看在生成新图，其实悄悄背下了训练图，普通指标还查不出来。

生成出复制图之前就能查出扩散模型背了哪些训练数据，CelebA 和 Stable Diffusion v1.4 上的数字都给出来了，做模型审计的可以看看。