对抗训练相关 AI 资讯 · AITOP

8月31日

11:40

官方账号arXiv cs.LG@Shae McFadden, Ilias Tsingenopoulos, Mario D'Onghia, Alexander Herzog, Myles Foley, Chris Hicks, Lorenzo Cavallaro, Fabio Pierazzi

73°

REPLICANT 是一种深度强化学习框架，在严格的仅标签黑盒威胁模型下学习规避技术。该框架可重用策略，适用于不同样本、检测器和特征空间。在七个 Android 恶意软件检测器和三种特征空间测试中，REPLICANT 实现了 78.8% 的平均攻击成功率，比现有技术提高 20.9%-39.2%。当用于对抗训练时，REPLICANT 产生的检测器具有更强的泛化鲁棒性。

论文 REPLICANT 恶意软件检测深度强化学习

推荐理由：REPLICANT 能让恶意软件绕过检测，还能帮安全人员训练更强大的检测器，效果提升近四成。

原文

8月11日

10:38

官方账号arXiv cs.AI@Mengnan Zhao, Geyong Min, Lihe Zhang, Tianhang Zheng, Jie Cui

CGRm 是一种用于长尾对抗训练的插件式框架，利用有向鲁棒误差作为训练信号。它通过周期性鲁棒评估推导源类损失权重、类级鲁棒系数和有向混淆几何图。该方法将反馈加权鲁棒优化与图引导的边界校正相结合，提升脆弱类别的鲁棒性。在长尾基准上的实验显示，CGRm 相比现有方法取得一致的鲁棒性能提升，消融实验验证了各组件贡献。

论文 CGRm 长尾分布对抗训练

推荐理由：CGRm 解决了长尾对抗训练中类别不平衡和对抗放大双重问题，用混淆几何图精准定位关键边界，实验效果不错，值得做对抗训练的人看看。

原文

7月16日

02:25

官方账号OpenAI@OpenAI (@OpenAI)

精选

OpenAI 通过对抗训练（对抗 GPT-Red）提升了 GPT-5.6 的安全性。测试中重放了 GPT-Red 的最强攻击（均未在训练中出现），GPT-5.6 Sol 成为最鲁棒的模型。与四个月前的最佳生产模型相比，失败次数减少至 6 倍。该结果表明对抗训练可显著增强 LLM 对 prompt 注入的防御能力。

AI模型 GPT-5.6 GPT-Red OpenAI

事件专题

推荐理由：OpenAI 刚晒出 GPT-5.6 Sol，抗 prompt 注入比四个月前强了 6 倍，安全能力大幅提升。

原文

7月2日

10:25

官方账号arXiv cs.AI@Mehul Damani, Isha Puri, Idan Shenfeld, Jacob Andreas

该论文提出对抗生成器-判别器框架，将可验证奖励（RLVR）与人类演示信号结合。在bug修复任务中，该方法在匹配RLVR基线性能的同时，将编辑距离显著降低。在故事生成任务中，该方法将胜率提升，并产出更接近人类的多样故事。在奖励黑客基准测试中，该方法几乎消除模型异常行为，同时保持高分。

论文 RLVR 对抗训练语言模型训练

推荐理由：这篇论文能让AI不仅算对答案，还能写出像人话的风格，用对抗训练把RLVR和人类示范结合起来，效果很实在。

原文

7月1日

10:58

官方账号arXiv cs.LG@Yalin E. Sagduyu, Tugba Erpek, Aylin Yener, Sennur Ulukus

论文研究 relay-assisted 语义通信系统的隐私问题，指出中继节点即使无源数据也能可靠推断语义并重构信号，其性能与合法接收器相当。提出迭代对抗训练框架，通过交替优化中继窃听与合法系统，在保持合法接收器解码性能的同时显著抑制中继推理。合法与窃听端语义精度差距在多种信道条件下扩大，实现隐蔽隐私保护。方法基于高保真重构与选择性语义抑制的平衡。

论文语义通信隐私保护对抗训练

推荐理由：这篇论文点出了中继语义通信里一个隐蔽的隐私漏洞，用对抗训练把合法和窃听者的语义差距拉大，做法很直接有效。

原文

5月25日

11:17

官方账号arXiv cs.AI@Haoyuan Wang, Xiaohao Liu, Jiajie Su, Jianmao Xiao, Chaochao Chen

精选

多模态大模型需要高效更新知识，但现有方法在语义等价变体上泛化不足。论文提出ASAM框架，包含Latent Adversarial Robustification（LAR）生成对抗变体，以及Rank-Constrained Subspace Learning（RCSL）通过低秩对齐增强编辑鲁棒性。实验表明该方法在保持可靠性和局部性的同时，显著提升了跨视觉和语言变体的泛化能力。这项工作为多模态知识编辑的鲁棒性提供了新思路。

论文多模态大模型知识编辑对抗训练

推荐理由：做多模态大模型知识更新的研究者会关注——ASAM解决了编辑后泛化差的痛点，用对抗子空间对齐让模型对语义等价变体也生效，值得在MLLM编辑任务上试试。

原文

5月22日

11:03

官方账号arXiv cs.AI@Sadia Asif, Mohammad Mohammadi Amiri, Momin Abbas, Prasanna Sattigeri, Karthikeyan Natesan Ramamurthy

精选

基于大语言模型的多智能体系统常通过中间通信协调任务，其中通过Transformer的KV缓存进行潜在通信能提升效率并保留更丰富的任务相关信息。但KV缓存会编码上下文输入、中间推理状态和智能体特定信息，形成不透明通道，可能导致敏感内容在智能体间传播而无需显式文本披露。为此，研究者提出LCGuard框架，将共享KV缓存视为潜在工作记忆，在缓存工件传输前学习表示级变换。通过对抗训练形式化敏感信息泄露：若对抗解码器能从共享缓存中恢复智能体特定敏感输入，则视为不安全。实验表明，LCGuard在多个模型家族和多智能体基准上持续降低基于重建的泄露和攻击成功率，同时保持与标准KV共享基线相当的任务性能。

论文多智能体系统 KV缓存安全/隐私

推荐理由：多智能体系统开发者终于有了保护KV缓存中隐式敏感信息的方案——LCGuard在不牺牲任务性能的前提下阻断信息重建攻击，做分布式AI协作的团队值得关注。

原文