主要来源arXiv cs.LG
查看原文事件专题 ·单一信源
arXiv 研究：给训练好的模型加循环层只有小模型才划算
一篇 arXiv 论文研究了给已预训练模型加 loop（重复应用部分层）是否能摊平推理成本。在 Qwen3 和 Qwen3.5 的 0.8B、4B、9B 三种规模上，只有 0.8B 循环模型同时胜过同参数量和同 FLOPs 两个基线。4B 和 9B 的循环模型连同参数量的无循环基线都打不过，而同基准下无循环 9B 模型仍比 4B 高出最多 13 分，说明不是基准太简单。结论是后训练加循环只适合参数预算固定的小模型。
当前结论
想省显存给模型加循环层？这篇论文实测了 Qwen3 从 0.8B 到 9B 的效果，结论是小模型才划算，大模型纯亏推理算力。
2 个信源41° AI 热度最后更新 2026/10/30 16:56:29
证据链
2 个信源相关来源 1IT之家
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。