研究显示：简单特征胜过多数 AI Control 监控模型
如果你在做 AI Control 或监控器评估，这篇得看：它指出了标准数据集的两个漏洞，还重建了数据集和检查工具一并开源。
#后门检测
共 3 条 · 7 天 0 条 · 30 天 1 条
信息流里打上「后门检测」标签的资讯、产品与论文，按刊登时间排，新的在上。
11月2日
8月31日
5月21日
MIST：通过谱回归分析检测DNN后门植入
安全团队和AI部署者终于有了一个无需先验知识就能检测模型后门的方法——MIST通过分析微调时的谱变化，在单次更新后即可识别恶意植入，比现有方法更早更准。做模型安全审计的开发者值得关注。