AITOPAI热报

VISTA

共 2 条相关 AI 资讯
8月31日
09:05
09:05官方账号arXiv cs.LG@Zewen Ding, Zezhong Wu, Zhou Tao, Shida Wang, Shizhuo Hou, YongXiang Hua, Haoyu Cao, Linli Xu
73°
VISTA方法在AIME24、AIME25和HMMT25基准测试中，使用Qwen3模型在1.7B、4B和8B规模下均取得最高Avg@12成绩。该方法通过结果验证的rollout来调整教师模型分布，仅针对top-k位置进行KL散度优化。VISTA在保持标准OPSD学生更新的同时，实现了对OPSD方法0.6、0.7和2.1个百分点的性能提升。
论文VISTAOPSDQwen3
推荐理由：VISTA方法改进了OPSD蒸馏技术，通过验证器指导教师自适应，在数学推理任务上显著提升性能。
原文
6月15日
11:12