#对抗训练

对抗训练领域的老问题：很多攻击只是推高 loss，模型置信度其实没被真正扰动。这篇论文从 Fisher 信息矩阵几何角度重做了扰动生成，理论给得清楚，算法避开了高维矩阵计算。做鲁棒性研究的同学可以直接看实验部分和伪代码。

搞对抗训练的人可以看看这篇理论分析，它证明了用大步长训练也照样成立，不用非得用慢吞吞的小步长。

这篇论文挺有意思：发现对抗鲁棒性其实藏在少数关键参数里，只微调约5%参数就能媲美全参数对抗训练，还比LoRA效果好。

论文提出 ASD，用模型自己的安全行为蒸馏给被攻击时的自己，连注入合规开头都能恢复拒答，比现有防御的攻击成功率更低。

arXiv 上新出的对抗训练方法 ExGrad，靠减掉一部分干净梯度，在 CIFAR-100 和 ImageNet-100 上把 AutoAttack 鲁棒准确率实实在在抬了一截，做鲁棒性的可以看。

页面上的恶意提示能劫持浏览器智能体，这篇论文让任务、攻击和智能体在模拟器里互相对抗着变强，4B 小模型对未见攻击完成率提升 33.6%。

给做 IoT 安全的人：论文实测了 5 种流式学习器被投毒时的表现，AT-SRP 防标签翻转 F1 到 0.904，方法可复现。

把最优传输的数学搬到对抗训练里，还给出了两种可实现的改进算法，做鲁棒性研究的可以看看推导和实验设置。

REPLICANT 能让恶意软件绕过检测，还能帮安全人员训练更强大的检测器，效果提升近四成。

CGRm 解决了长尾对抗训练中类别不平衡和对抗放大双重问题，用混淆几何图精准定位关键边界，实验效果不错，值得做对抗训练的人看看。

这篇论文能让AI不仅算对答案，还能写出像人话的风格，用对抗训练把RLVR和人类示范结合起来，效果很实在。

这篇论文点出了中继语义通信里一个隐蔽的隐私漏洞，用对抗训练把合法和窃听者的语义差距拉大，做法很直接有效。