#对抗测试

共 3 条 · 7 天 0 条 · 30 天 1 条

AI安全 1 DeepSeek-R 1 GPT-5-Mini 1 MiniMax-M2.5 1 Penumbra 1 动态规划 1 合规 1 测试策略 1

信息流里打上「对抗测试」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月6日

论文 Agent 与开发者09:26

Penumbra：针对监管义务的样本高效对抗搜索方法

这篇论文做了个叫 Penumbra 的合规测试工具，能用极少的生成次数找出刚踩到监管红线的回复对，金融和医疗场景挺实用。

#Penumbra #对抗测试 #合规 #监管义务

arXiv cs.AI@Anthony Rhodes原文

9月15日

论文 Agent 与开发者精选13:10

研究揭示自动程序修复代理存在安全漏洞

朋友，这篇论文挺有意思的，它测试了几个主流的LLM模型在程序修复时的安全性，发现它们很容易被对抗性攻击诱导出漏洞，这个发现挺有价值的。

#GPT-5-Mini #MiniMax-M2.5 #DeepSeek-R #对抗测试

arXiv: DeepSeek@Fares Trad 等 5 人原文

8月31日

最优对抗测试：从 dishonest 测试者获取诚实结果

这篇论文教你如何设计测试策略，即使有人用 AI 作弊也能得到真实结果。

#AI安全 #动态规划 #对抗测试 #测试策略

arXiv cs.AI@Owen Cox 等 3 人原文