论文Agent 与开发者13:48研究:后训练改变模型内部表征的读出方式而非表征本身这篇论文很有意思:模型内部其实'知道'答案,但后训练把它读歪了。作者用探针加信号检测论量化了这一点,还证明 2000 条标注数据就能扭转读出方向。做模型微调或可解释性研究的人应该看。#线性探针#后训练#SFT#可解释性aarXiv cs.LG@Jochen Laubrock原文稍后读已读值得跟进有用关注 线性探针