特征归因(Feature Attribution)是可解释机器学习中的一类核心技术,旨在量化每个输入特征对模型预测结果的贡献程度,典型方法包括 SHAP、遮挡分析(Occlusion)和梯度类归因等。它是连接黑箱模型与人类理解的主要桥梁,也是目前可解释 AI 领域研究最活跃的方向之一。近期的学术工作显示,这一领域的研究重心正从“提出新方法”转向“评估与改进已有方法的可靠性”。
特征归因的近期研究进展
当前焦点与观察点
综合近期文献,特征归因研究的争议核心集中在两点:一是忠实性与稳定性的矛盾——同类输入在扰动下归因结果可能大幅波动,RoSHAP 和 XtrAIn 等工作均试图量化并缓解这一问题;二是评估标准的碎片化,插入/删除曲线、稳定性指标等不同度量可能给出相互冲突的结论,尚无公认基准。
另一个值得注意的趋势是方法的多元化:从局部的逐特征打分,扩展到全局解释(FLEX)和原型解释(表格数据工作),研究者开始承认特征归因并非解释模型的唯一路径。此外,ViT 等视觉模型中的“绑定问题”研究(特征如何归属到同一物体)提示,归因在复杂模型中可能需要更细粒度的结构化形式。对于工程实践者,当前更务实的做法是在关键场景中同时报告多种归因方法与稳定性指标,而非依赖单一方法的输出。