Feature Attribution(特征归因)是可解释机器学习中的一类核心方法,用于量化每个输入特征对模型某个预测结果的贡献程度,典型技术包括 SHAP、LIME、Integrated Gradients 等。随着模型在高风险领域(如航空安全、医疗预警)落地,特征归因正从“事后解释工具”演变为影响方法设计与系统架构的基础组件,其自身的稳定性与因果有效性也成为研究焦点。
Feature Attribution 近期进展
当前焦点与观察点
当前讨论集中在三个方向。其一是稳定性:同一模型在不同背景样本下可能给出差异很大的归因结果,RoSHAP 等分布化框架正是针对这一问题的尝试。其二是因果性:纯相关性归因可能误导高风险决策,将实际因果计算引入神经网络解释是一个仍在早期但有潜力的路线。其三是工程集成:越来越多系统(如知识图谱驱动的数字孪生)在预测流程内部就直接利用归因信号,而不是事后补一份解释报告。
值得关注的争议在于,特征归因的输出是否真正反映模型的决策逻辑,还是只是一种“看起来合理”的叙事。在监管要求模型可解释的背景下,这一问题的答案将直接影响归因方法能否作为合规依据,而非仅是调试辅助工具。