#模型审计

实验设计挺巧的：给 GPT-6 一个只能算数不能读权重的工具，审计临床模型的效果和白盒一样好，对做模型审计的人很有参考价值。

一篇挺有意思的论文：有人能在不动准确率的情况下悄悄把模型预测掰向自己要的方向，连审计都能过，监管和用模型打官司的人该看看。

做可解释性审计的朋友看这篇：同一解释在不同忠实度指标下结论打架，论文给了一套框架帮你定位分歧出在哪，还有 adverse action notices 的实际案例拆解。

一篇关于模型安全的论文：研究者能在模型权重里藏一个加密网络，密码学上几乎无法被审计发现，还公开了模型代码。

生成出复制图之前就能查出扩散模型背了哪些训练数据，CelebA 和 Stable Diffusion v1.4 上的数字都给出来了，做模型审计的可以看看。

这篇论文提出了一个名为ICON分解的新方法，用于更准确地评估深度神经网络中各个概念的重要性，对于模型审计和可解释性研究具有重要意义。与现有的基线方法相比，它能够提供更可靠的解释，对于理解模型的决策过程非常有帮助。

KAISEN把公平性审计拆成五个阶段，用合成数据测出哪个环节会失效。阈值优化靠谱，但Platt缩放和机制诊断有坑。

这篇论文梳理了LLM评估与安全之间测量问题的八大证据流，还审计了10个模型，发现很多看似安全差距其实来自信息披露。搞模型安全的人值得看看怎么避免被表面指标骗到。