#测试时训练

共 7 条 · 7 天 0 条 · 30 天 1 条

信息流里打上「测试时训练」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月15日

清华 THUNLP 开源了个 KV cache 压缩方法，压到 1/32 还能在 RULER 上保持 96.7% 准确率，比 KVZip+ 的 40% 高出一大截，长文档检索场景可以直接试。

arXiv cs.LG@Yingfa Chen 等 4 人原文

9月29日

一篇讲个性化奖励建模的论文，指出了 ICL 方法学不到偏好关系的坑，提出的 P-TTT 一次前向就能更新用户权重，做 RLHF 的可以看看。

arXiv cs.AI@Bohao Wang 等 7 人原文

9月7日

这个框架让LLM推理能力提升5000倍速度、降低10000倍成本，专为大规模产品升级推荐设计。

arXiv cs.LG@Siliang Liu 等 4 人原文

8月24日

论文精选10:06

E$^2$-TTT模型在语言建模和上下文检索方面表现优异，且在长度外推方面具有明显优势，值得一看。

arXiv cs.LG@Zeyun Zhong 等 6 人原文

8月7日

这篇论文把持续学习的新玩法梳理清楚了，不再只盯着参数调整，连测试时训练、外部记忆都算进去了。搞AI系统的可以看看。

arXiv cs.LG@Zhiyan Hou 等 13 人原文

7月17日

模型多源确认精选73°11:32

NVIDIA发布了RoboTTT，能把机器人策略的上下文窗口做到8000步，看懂人类演示后直接模仿，长任务完成率比单步模型高87%。想了解机器人怎么学更长历史可以看这个。

arXiv cs.AI@Yunfan Jiang 等 11 人原文

7月16日

模型多源确认精选05:46

斯坦福和英伟达搞了个新方法RoboTTT，能让机器人记住5分钟内的动作历史，一次看人演示就能模仿，还能自己纠错。上下文越长效果越好，8K比1K强62%。

官方账号Fei-Fei Li@drfeifei原文