论文精选
goodside 案例分析：推理模型的泛化能力
精选理由
goodside 用一个少见文本格式做实验，展示现在的推理模型不再靠训练数据频率，早期模型能读 ROT13 却读不了 ROT12，这个对比挺有意思。
goodside 通过一个案例研究推理模型的泛化能力：对于训练数据中极少出现的文本输入方式，模型依然能正确处理。对比之下，早期 LLM 的表现取决于训练数据的出现频率，例如能读 ROT13 但读不了 ROT12。这个差异说明当前推理模型的能力更多来自泛化，而不是记忆训练分布。
原文 · Riley Goodside
Good case study of generalization in reasoning models; consider how little training data there is of text typed this way. In earlier LLMs that prevalence would have decided whether a model could do this—e.g. they could read ROT13 but not ROT12. That’s much less what matters now.
