Explanations（模型解释）是机器学习领域中用于说明模型为何做出某个预测的技术与研究方向，涵盖局部解释（如 LIME）、反事实解释、因果解释等多个分支。随着深度模型和多模态系统大规模落地，Explanations 已从学术话题转变为监管合规与用户信任的关键环节，当前研究重点正从「生成解释」转向「验证解释是否可靠」。
Explanations 近期进展
当前焦点与观察点
当前 Explanations 研究最突出的争议在于「如何评估解释本身」。一篇工作提出用解释所诱导出的预测器质量来评价解释方法（Evaluating Explanation Methods by the Predictors They Induce），另一项研究则用行为证据区分 LLM 解释究竟是「必要」还是「充分」（Necessary or Sufficient? Evaluating LLM Explanations With Behavioural Evidence），二者共同指向一个问题：解释的可信度不能只靠主观合理性判断。
方法层面也出现多样化趋势：有工作给出带概率保证的线性解释（Probabilistic Linear Explanations），也有研究在量化双极论证框架下构建对比解释（Contrastive Explanations in Quantitative Bipolar Argumentation Frameworks），将形式论证理论引入解释生成。
整体看，Explanations 领域正经历三重变化：解释对象从单模态分类器扩展到多模态与检测模型，解释形式从静态归因扩展到交互式与论证式，评价标准从「看起来合理」转向可度量的行为与因果证据。对从业者和监管者而言，值得关注的是这些新解释方法能否在真实部署环境中保持稳定与可复现，以及 EU AI Act 等法规对可解释性要求落地后，行业标准是否会加速收敛。