09:42
官方账号arXiv cs.AI@Chi Wang, Hanwen Wang, Yu Xia, Zihan Wang, Guangdong Bai
推荐理由：这篇论文提出了Caliber，一种给API返回分数加噪的防御方法，能控制攻击者提取模型的成本，还给出了理论保证和实验数据。
对抗防御
共 2 条相关 AI 资讯
8月4日
09:42
Caliber是一种针对分数返回API的模型提取防御方法，通过向内部logits添加独立同分布高斯噪声来干扰攻击者。论文证明噪声尺度与预测一致性单调递减，并推导了固定输入下恢复干净logits所需查询次数的闭式极小极大下界。在三十多个模型-数据集组合上，逐模型校准的平均绝对相对误差为0.6%-1.4%。端到端实验显示替代模型性能与配置的退化程度一致。
6月30日
11:39
11:39
官方账号arXiv cs.AI@Bang An, Yibo Yang, Dandan Guo, Ebtisam Alshehri, Carlos Hinojosa, Bernard Ghanem
推荐理由：这篇论文揭示了有害微调的新方式，提出Embedded Attack和DR-SFT，对AI安全研究者很有启发。