Spurious

general · 首次出现 2026-05-22 · 最近出现 2026-10-07 · 累计提及 9

综述

Spurious(虚假特征/虚假相关)在机器学习中指模型学到的与任务无关却表现为预测性信号的统计捷径,是当前可信 AI 研究的核心议题之一。当数据中存在背景、水印、群体属性等偶然关联时,模型往往依赖这些 spuriously correlated 的线索而非真实因果特征,导致在分布外场景中性能骤降,也让评测结果本身变得不可靠。

Spurious Correlation 相关近期进展

  • 研究提出"虚假遗忘"机制:微调中"丢失"的知识可被恢复:该工作指出模型在被"遗忘"的知识与微调任务特征之间可能建立了虚假关联,看似抹除的能力实际仍可通过特定方式恢复,这对目前流行的机器遗忘(machine unlearning)安全性评估提出了直接质疑。
  • SAEBench 两项核心指标被指失效:稀疏自编码器(SAE)常被用来分离模型中的真实特征与虚假特征,但这项研究发现 SAEBench 中两项核心基准指标已经失效,意味着社区赖以衡量可解释性工具质量的部分评测手段可能给出误导性结论。
  • BiasFlow: Geometric Monitoring and Backbone Regularization for Spurious Feature Reliance:提出通过几何监控与骨干网络正则化来实时监测并抑制模型对虚假特征的依赖,属于训练时干预路线的代表。
  • Whitening Improves Robustness to Spurious Correlations in Linear Probes:对线性探针做白化处理可提升其对虚假相关的鲁棒性,说明部分脆弱性源于表示中特征尺度的失衡而非特征本身不可用。
  • Automated Background Swapping for Robustness against Spurious Backgrounds:从数据侧入手,通过自动化背景替换生成增强样本,削弱模型对背景捷径的依赖。
  • 当前焦点与观察点

    目前围绕 spurious 特征的研究大致分三条路线:数据增强(如背景替换)、训练约束(如 BiasFlow 的几何监控)、以及表示层面的修正(如白化)。争议点集中在评测环节——SAEBench 指标失效与"虚假遗忘"可恢复这两项发现共同指向一个问题:我们用于判断模型"不再依赖某特征"或"已遗忘某知识"的工具,可能本身就被虚假关联欺骗。

    值得后续观察的方向包括:稀疏自编码器社区如何重建可信基准、机器遗忘论文是否需要增加可恢复性测试、以及图像分类之外(如多模态与代码模型)的虚假背景问题是否会被系统性研究。

    相关报道

    7 条在档
    Spurious · AI 话题观测|AI热报