热带几何视角下的防遗忘微调：按单元投影器方法
这篇论文给微调遗忘问题做了套几何理论，还造了个按单元的投影器，在 OPT-1.3b 上把 Adam-NSCL 的遗忘压到最多 4.3 倍更低，做持续学习的朋友可以看看。
#OPT
共 2 条 · 7 天 1 条 · 30 天 2 条
信息流里打上「OPT」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月6日
9月30日
这篇论文给微调遗忘问题做了套几何理论，还造了个按单元的投影器，在 OPT-1.3b 上把 Adam-NSCL 的遗忘压到最多 4.3 倍更低，做持续学习的朋友可以看看。