LAW 提出纯 Self-Conditioning 生成模型，扩散语言模型新路线

arXiv 论文提出 LAW（Loopholing All the Way），将传统上被视为辅助技巧的 Self-Conditioning 变成连续生成模型的核心机制，通过跨步传播去噪器预测的 Expected Embedding，最后一次性解码 token。在 Sudoku 任务上，LAW 超越此前的离散与连续扩散模型，包括 Loopholing Discrete Diffusion。在 Maze 任务上，LAW 在 2 到 64 NFE 区间准确率最高。在 TinyGSM 上训练并以 1024 NFE、温度 1 采样后，LAW 在 GSM8K 上解题率 42.2%，高于均匀 Loopholing Discrete Diffusion 的 34.5%。用 LAW 微调预训练扩散模型 Duo 后，准确率从 17.2% 升至 48.1%，在 OpenWebText 上则以 64 NFE 接近自回归模型。