AITOPAI热报

机器遗忘

共 6 条相关 AI 资讯
9月1日
09:19
09:19官方账号arXiv cs.LG@Yingdan Shi, Xiang Xu, Kaize Ding, Alfred O. Hero, Ren Wang
精选73°
研究人员发现深度神经网络在持续机器学习中存在可塑性崩溃问题。该研究通过理论分析表明，持续遗忘操作会在参数空间中累积几何约束，导致饱和子空间限制未来更新。实验在多种架构、数据集和方法上验证了这一现象，表现为两种失效模式：前向失效和后向失效。这一发现揭示了机器遗忘系统长期可靠性的关键障碍。
论文机器遗忘可塑性崩溃深度神经网络
推荐理由：MIT团队发现机器持续遗忘中的可塑性崩溃现象，解释了为什么模型会逐渐丧失遗忘能力，甚至重新记住已删除信息。
原文
8月31日
09:06
09:06官方账号arXiv cs.LG@Praveen Bushipaka, Andrea D'Angelo, Lucia Passaro, Tommaso Cucinotta
GRACE是一种针对大语言模型遗忘的数据选择方法，通过种子样本计算遗忘方向，使用非负正交匹配选择紧凑遗忘集。该方法在两个目标领域、两个模型家族和四种遗忘算法上测试，在保持可比遗忘质量的同时提升了模型效用。GRACE在梯度引导的选择方法上展现出一致的改进效果。
论文GRACELLM机器遗忘
推荐理由：GRACE解决了LLM遗忘中遗忘集和保留集推断问题，通过梯度引导方法提升模型效用，比现有梯度选择方法更稳定。
原文
8月4日
09:20
09:20官方账号arXiv cs.AI@Junkai Lin, Junkai Chen, Siqi Hou, Yuhao He, Ruiqi Liu, Chenhan Jin, Shengze Xu, Tieyong Zeng
多模态大语言模型会泄露敏感信息，现有隐私基准多采用画像级删除，而实际请求往往更细粒度。本文提出属性级遗忘任务，覆盖长文本、数值、短文本三类目标和多种遗忘比例。作者提出训练无关的CLRP框架，用激活修补定位因果层，再通过保留感知投影移除目标属性子空间。实验在多种不同架构和参数规模的MLLM上验证了CLRP的有效性。
论文机器遗忘属性遗忘多模态
推荐理由：论文把机器遗忘做到属性级：让模型忘掉指定属性，但保留同一人的其他信息。CLRP不用重训练，在多种多模态模型上都有效。
原文
6月18日
10:49
6月12日
13:47
13:47官方账号arXiv cs.LG@Shaivi Malik
该论文提出一个探索性框架，将神经网络模型编辑形式化为强化学习问题，代理通过奖励反馈修改模型参数。框架包含两个环境：MaskWorld（乘法缩放权重）和 ShiftWorld（加法更新权重），奖励函数结合效用保持和任务特定编辑目标。在文本分类的偏见缓解和图像分类的机器遗忘任务上，学习到的策略在遗忘任务中将遗忘集准确率降至接近 0%，同时保留集准确率超过 90%；在偏见缓解中，偏见相关性能提升超 5% 且保持分类效用。结果表明，模型编辑可通过 RL 学习策略，无需为每个任务手动设计专用算法。
论文强化学习模型编辑偏见缓解
推荐理由：这个框架让做模型微调或安全对齐的团队省去手动设计编辑算法的时间，直接用 RL 学习策略就能完成偏见缓解或遗忘任务，值得关注。
原文
5月15日
11:17
11:17官方账号arXiv cs.LG@Saisab Sadhu, Pratinav Seth, Vinay Kumar Sankarapu
精选73°
现有机器遗忘评估仅在全精度模型上进行，但实际部署的语言模型都会经过量化。研究发现，4-bit量化可以逆转梯度下降法的遗忘效果，而能抵抗量化的方法又几乎不改变模型。MANSU通过因果电路归因定位最小遗忘子图，结合零空间投影和参数幅度下限，首次实现了遗忘效果在量化后不反弹。该方法还提出了电路归因散度（CAD）作为新的验证指标，能区分结构擦除与行为抑制。实验表明，MANSU在多个模型和基准上同时满足遗忘、保留、抗量化和结构擦除四个目标。
论文机器遗忘量化因果归因
推荐理由：量化会悄悄恢复你辛苦抹掉的知识——MANSU解决了这个部署中的致命漏洞，做模型安全和对齐的团队值得关注这个新方法。
原文