#可解释性

一篇讲特征擦除为什么失败的论文：线性投影擦不干净，遗忘的知识一个标量补丁就能恢复，还解释了 LLM unlearning 复现的机制。

合成语音听着怪却说不清哪里怪？XSQ-AST 用显著性图把伪影定位到具体音素，40 人听测验证有效。

想让随机森林的解释更稳？这篇论文让单棵 ART 树在 21 个数据集上同时给出预测值、区间和概率。

有人拿 SAE 逐个对比 Mamba 和 Pythia 的内部特征，99.98% 几乎一样，做可解释性的可以看看。

借法医测谎思路做的 PIR，能从 Gemma、Qwen 等模型内部读出它明明知道却装不知道的答案。

给开源视觉语言模型的人脸识别解释定了相关性和忠实性两个量化标准，评测框架开源，做审计场景的可以拿来用。

用 Laplace 分布的折点特性证明了非线性 ICA 能精确恢复隐因子，CelebA 实验里真拆出了控制单一属性的因子

这篇论文介绍了一种叫 RegKT 的新技术，专门用来提升知识追踪模型的性能，让它在处理教育数据时更稳定，不容易过拟合，同时还能保持模型的可解释性，对做教育应用的开发者可能有帮助。

Baseten 和 GoodfireAI 联手，把安全研究直接加到 Baseten 的推理里，让客户用起来更安全，值得看看。

Thomas Wolf@Thom_Wolf原文

这个基准测试了AI代理能否自主进行稀疏自编码器研究，发现代理能设计对比实验但常误解测量结果。

这篇论文研究了六种推理格式如何影响人类对LLM输出的评估，发现偏好与实际效果存在差异。

这篇研究展示了LLM如何分析临床自杀意念数据，对心理健康AI应用有重要参考价值。

npj Digital Medicine@Tim M. H. Li原文

医学AI可解释性新方法SMILE，在多模态诊断中表现优异，比现有方法准确率高9.1%，还能解释诊断依据。

思维链文本的可读性不等于可解释性，研究揭示了LLM判断推理步骤重要性的局限性。

Joshua Achiam谈思维链可解释性的局限性，指出它不能作为长期AI安全的可靠保障。

Gary Marcus@GaryMarcus原文

ConceptTS利用大型语言模型实现可解释的多变量时间序列预测，提供更直观的预测解释，适合需要理解预测因素的场景。与黑盒基线相比，准确性相当，值得一试。

BERT-LER模型在临床预测任务中表现出色，结合了实验室值表示和可解释性，适用于多个治疗领域和预测任务，值得一看。

这篇论文用因果干预实验拆解了LLM拒绝机制，发现答案释放和拒绝恢复不对称，对AI安全审计很有参考价值。

这篇论文用受控实验证明，模型输出能藏住内部状态的证据，128对测试全过，对理解AI可解释性挺有意思。

这篇论文揭示了AI模型能被微小文本线索操控，对安全和可解释性影响大，值得关注。

ALE以前只支持L2空间，这篇把它扩展到球面、高斯这些新结构，还在图像分类上实测了。

这篇论文搞了个CHIVE自动找模型意外行为，结果发现现有可解释性技术对预测反事实行为没啥用，但用来训练数据倒挺能泛化，值得做可解释性的人看看。

做表格分类想用深度学习？TabSOM把表格变成图像，打平十二种老方法还更稳，连特征关系都能可视化，值得试。

想系统搞懂CAM方法演进，这篇57篇论文的综述把梯度法、Transformer归因、CLIP/DINO/SAM时代的新做法都梳理清楚了，还指出了各方法留下的坑。

想搞懂SAE特征到底抽没抽到抽象概念？这篇提出FNL指标，不用LLM打分就能测抽象度，还能帮你挑干预特征，实测提分4.6。

这篇论文用SAE潜变量集做相似度度量，发现它并不比稠密嵌入更贴近人类概念判断，搞可解释性的人值得看看这个反直觉结论。

想快速了解NLP信任研究六年的演变脉络，看这篇综述就够了，它把144篇论文的规律都总结好了。

想搞懂多模态模型内部怎么运作？MMDiff能找出是哪些特征让模型变聪明，还能精准控制它们，安全性和效果都有数据支撑。

田渊栋聊为什么大模型还不是科学，他创业搞RSI用AI自我进化，还拿Claude研究agent和人类做了对比。

Yangyi@Yangyixxxx原文

XAI评估怎么做才靠谱？这篇论文用DetoxAI和概念漂移案例讲清了不足和应对思路，适合搞模型解释的人读。

这篇论文提出了GENESIS，让因果发现的每条边都能说清是统计证据还是领域知识，还保证100%可追溯，比纯统计方法更准。