经验回放相关 AI 资讯 · AITOP · AI热报

9月1日

10:16

10:16

官方账号arXiv cs.AI@Lukas Borggren, Jenny Kunz, Marco Kuhlmann

研究人员使用数百万篇新闻文章构建高质量数据集，对大模型进行持续预训练以适应瑞典新闻领域。他们创建了涵盖六项编辑任务的专业基准，评估两种模型尺寸的完全和参数高效微调效果。研究发现，仅当结合经验回放以减轻遗忘时，持续预训练才能在目标领域带来收益，提升模型生成质量和事实知识，但不提高判别任务能力。

论文 Swedish journalism continued pre-training 经验回放

推荐理由：瑞典学者用新闻数据微调大模型，发现经验回放能防止遗忘，提升新闻写作质量。

8月19日

11:42

11:42

官方一手arXiv: Google DeepMind@Hoda Yamani, Henry Williams, Bruce A. MacDonald

本文提出NSPER方法，在图像强化学习中整合新颖性和惊喜信号来优化经验回放。NSPER+R进一步将这些信号作为内在奖励，共同提升回放质量和探索效果。实验在DeepMind Control Suite任务上显示，NSPER和NSPER+R比现有方法提高了训练效率和收敛速度。

论文 Reinforcement Learning NSPER 图像强化学习

推荐理由：DeepMind团队提出NSPER方法，结合新颖性和惊喜信号，让强化学习更高效探索。