用贝叶斯 LoRA 后验替代影子模型,让成员推断攻击在大型 VLM 上可行
做隐私审计或模型安全研究的可以看看这篇:训练一次 LoRA 就能生成虚拟影子模型,省掉传统 MIA 的模型集成开销,实测在 Document VQA 和 Medical VQA 上比标准攻击更强。
做隐私审计或模型安全研究的可以看看这篇:训练一次 LoRA 就能生成虚拟影子模型,省掉传统 MIA 的模型集成开销,实测在 Document VQA 和 Medical VQA 上比标准攻击更强。
一篇隐私方向的新论文:自蒸馏模型原来会留下可被攻击的训练数据痕迹,OP-Print 用残差信号和重启稳定性就能把成员识别出来,基线全都失效。
这是篇挺有意思的论文,作者发现用模型权重谱的几个数学指标就能大概判断模型会不会被用来偷用户数据,比传统方法更高效。