研究揭示 Transformer 组合泛化评估中的等价性与模块覆盖问题
这项研究解释了为什么不同论文测组合泛化结论互相矛盾:很多基准里的模块序列其实功能等价,模型是在走捷径。做基准设计或评估模型泛化能力的开发者应该看看,结论会直接影响你怎么切训练测试集。
这项研究解释了为什么不同论文测组合泛化结论互相矛盾:很多基准里的模块序列其实功能等价,模型是在走捷径。做基准设计或评估模型泛化能力的开发者应该看看,结论会直接影响你怎么切训练测试集。
文生图经常画错“左边的红球”这类提示,这篇论文用低秩对齐把 DiT 训练成本砍半,还顺手超过 REPA 基线。
清华团队提出CoGe-GCD,解决GCD方法难以泛化到新组合的问题,代码已开源。
研究人员发现,在共享语言模型中,限制模块间的证据可见性,能让模型在组合任务上表现更好,比全局可见的模型平均高出20个百分点,而且学到的接口更可复用。
这篇研究很酷,RLM harness让Transformer在短任务上训练就能自动泛化到长任务,甚至跨领域。不用改模型结构,靠框架就能实现。
这篇论文用简洁的实验揭示了 Transformer 组合泛化的内部机制,对理解大模型如何组合技能有启发意义,做可解释性或模型架构研究的读者值得一看。