Spurious(虚假特征/虚假相关)在机器学习中指模型学到的与任务无关却表现为预测性信号的统计捷径,是当前可信 AI 研究的核心议题之一。当数据中存在背景、水印、群体属性等偶然关联时,模型往往依赖这些 spuriously correlated 的线索而非真实因果特征,导致在分布外场景中性能骤降,也让评测结果本身变得不可靠。
Spurious Correlation 相关近期进展
当前焦点与观察点
目前围绕 spurious 特征的研究大致分三条路线:数据增强(如背景替换)、训练约束(如 BiasFlow 的几何监控)、以及表示层面的修正(如白化)。争议点集中在评测环节——SAEBench 指标失效与"虚假遗忘"可恢复这两项发现共同指向一个问题:我们用于判断模型"不再依赖某特征"或"已遗忘某知识"的工具,可能本身就被虚假关联欺骗。
值得后续观察的方向包括:稀疏自编码器社区如何重建可信基准、机器遗忘论文是否需要增加可恢复性测试、以及图像分类之外(如多模态与代码模型)的虚假背景问题是否会被系统性研究。