OpenAI 修补新发现的蒸馏攻击方法
有人发现能从 OpenAI 模型身上蒸馏出新方法，OpenAI 已经堵上了，搞模型安全的可以看看细节。
#蒸馏攻击
共 9 条 · 7 天 0 条 · 30 天 2 条
信息流里打上「蒸馏攻击」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月27日
10月21日
Anthropic 加强针对模型蒸馏攻击的防御措施
Anthropic 发文讲怎么防别人用大量查询蒸馏他们的模型，做模型安全或护自家模型的可以看看具体防护思路。
10月13日
Anthropic 称已将 Claude 遭蒸馏攻击窃取的数据减少约 90-99%
Anthropic 把 Claude 被蒸馏偷走的数据砍掉了 90-99%，David Sacks 借此说：技术问题让公司自己解决，别动不动找华盛顿立法规。
Anthropic 发布蒸馏攻击防御进展说明
Anthropic 发文讲他们怎么防蒸馏攻击，想护住自家模型、做安全研究的可以看看他们的思路。
9月29日
论文：RL 后训练可轻易绕过蒸馏防御
说蒸馏防御没用的人来了：只要蒸馏后再跑一轮 RL，很多防御就失效。做模型安全或 API 防护的值得看看。
9月25日
Anthropic 将对被拒绝请求恢复收费，防御蒸馏攻击
Anthropic 要对被拒请求收费了，专门针对搞蒸馏攻击和生物类敏感请求的人，做 API 的可以看看自己会不会被波及。
9月11日
Anthropic 称阿里、月之暗面、深寻等中国 AI 公司持续进行蒸馏攻击
Anthropic 告诉我们，阿里、月之暗面、深寻这些中国 AI 公司在最近几个月里一直在做蒸馏攻击，竞争太激烈了。
6月25日
Anthropic 致信美国国会，指控阿里通义千问大规模蒸馏 Claude
Anthropic 跑出来告状了，说阿里用了两万多个假账号狂薅 Claude 的羊毛，次数比之前三家加起来还多一倍，还牵扯到美国商务部自己的限制令，挺拧巴。
5月22日
蒸馏攻防博弈：自适应攻击与高效防御
这篇论文戳破了蒸馏防御的假象——被动评估下的鲁棒性在自适应攻击面前不堪一击。做模型安全或部署的团队，建议用文中的自适应评估框架重新审视你的防御方案。