训练数据归因相关 AI 资讯 · AITOP · AI热报

9月3日

11:43

11:43

官方账号arXiv cs.LG@Yuzhang Luo, Chenpeng Wang, Jianhui Chen, Liangming Pan

精选73°

研究团队提出了一种基于影响函数的响应重写方法，在四个开源大模型上测试。与传统的重加权干预相比，重写方法产生了更强、更持久且双向的行为转变。影响函数选择的样本在重写干预中展现出更大的杠杆作用，且变化集中在目标相关行为上。这一发现在安全拒绝任务中也表现出相同的定性对比。

论文训练数据归因影响函数开源大模型

推荐理由：研究人员发现影响函数选中的样本通过重写而非重加权能更有效改变模型行为，这对训练数据归因方法评估有重要启示。

6月5日

00:22

00:22

rohanpaul_ai@rohanpaul_ai

72°

Guide Labs 推出了首个可解释 AI 平台 Clairy，旨在解决 AI 的“黑箱”问题。该模型以文本块形式生成内容，用户可点击某一块查看模型生成时使用的概念（如“海洋生物”、“计算机科学”等）。Clairy 还提供训练数据归因功能，将生成的文本块与相似训练样本关联，便于诊断错误。此外，用户可通过概念引导直接增强或抑制特定概念，无需重写提示或重新训练模型。

AI产品可解释AI 黑箱问题概念引导

推荐理由：Clairy 让 AI 决策过程透明化，解决了模型输出错误时只能靠猜的痛点，做 AI 安全、审计或模型调试的团队值得关注，可以直接用它来诊断和修正模型偏见。

6月4日

11:37

11:37

官方账号arXiv cs.LG@Rishit Dagli, Abir Harrasse, Luke Zhang, Florent Draye, Amirali Abdullah, Bernhard Schölkopf, Zhijing Jin

精选

训练数据归因（TDA）旨在追溯模型预测与训练数据的关系，但传统方法依赖梯度追踪，对大型语言模型（LLM）计算成本极高。STRIDE 提出新思路：不在参数空间估计变化，而是在激活空间建模训练数据的功能影响。它通过轻量级“转向算子”模拟数据子集训练带来的行为偏移，并利用稀疏恢复技术从这些算子中分解出单个训练样本的影响。该方法在 LLM 预训练归因上达到最先进水平，且速度比此前方法快 13 倍。实验还验证了其在数据选择、数据污染检测等下游任务中的实用价值。

论文训练数据归因 LLM 稀疏恢复

推荐理由：STRIDE 解决了 LLM 训练数据归因计算成本高、依赖局部近似的痛点，做模型可解释性、数据质量分析的团队可以直接用这个新框架。