论文20:20
arXiv 研究发现神经网络权重空间保留学习轨迹信息这篇论文挺有意思:网络练完后还能从权重里读出它最初的初始化和任务学习顺序,80 个网络上的探针做到 100% 准确。做模型取证、训练过程分析或者关心可复现性的人都该看看。
这篇论文挺有意思:网络练完后还能从权重里读出它最初的初始化和任务学习顺序,80 个网络上的探针做到 100% 准确。做模型取证、训练过程分析或者关心可复现性的人都该看看。
arXiv 这篇论文挺有意思:智能体被别的智能体劝到泄密前,探针读内部激活能提前发现,82% 召回比零样本监控的 26% 高不少。
训练好的安全探针换模型不用重训了,Qwen 和 Llama 系列实测迁移后 AUC 几乎不掉,不过误报率有点高,做安全审计的可以看看细节。
该工作揭示了不同语言模型在规划能力上的根本差异:仅部分模型(如Gemma-3-27B)真正依赖内部的前瞻性计划,而其他模型则依赖逐词条件。这对理解模型内部机制和未来设计更可控的生成系统有参考价值。