#模型审计

一篇关于模型安全的论文：研究者能在模型权重里藏一个加密网络，密码学上几乎无法被审计发现，还公开了模型代码。

生成出复制图之前就能查出扩散模型背了哪些训练数据，CelebA 和 Stable Diffusion v1.4 上的数字都给出来了，做模型审计的可以看看。

这篇论文提出了一个名为ICON分解的新方法，用于更准确地评估深度神经网络中各个概念的重要性，对于模型审计和可解释性研究具有重要意义。与现有的基线方法相比，它能够提供更可靠的解释，对于理解模型的决策过程非常有帮助。

KAISEN把公平性审计拆成五个阶段，用合成数据测出哪个环节会失效。阈值优化靠谱，但Platt缩放和机制诊断有坑。

这篇论文梳理了LLM评估与安全之间测量问题的八大证据流，还审计了10个模型，发现很多看似安全差距其实来自信息披露。搞模型安全的人值得看看怎么避免被表面指标骗到。