全部动态
Skill Entropy能测出模型切换推理技能的短板,还能当训练信号:Qwen3小模型得分从34%飙到68%,也能用在OpenR1-Math数据上。
医学影像领域的小伙伴可以看看这篇,CARE-X 把胸片分类、定位、报告生成整合到一个模型里,还靠工具调用做解剖测量,临床实用性比纯生成模型强不少。
这篇论文把教学策略拆成13种,用260段真实对话和3.2万条标注训练出TACTutor,在78个测试场景比基座涨了20%,盲测还赢过商业模型。
这篇论文实测了三个本地模型在 OSWorld 上的推理时扩展,发现多算不一定提升成功率,反而换着花样失败。做本地 CUA 部署的可以当避坑参考。
ReToken用一个小token当检索目标,从KV缓存里挑关键视觉token,Qwen3VL-8B在Visual Haystacks涨13.4分,单卡H100就能跑。
想把纯图片的Incidents1M变成图文对?这篇用Qwen3.5做生成和验证,10万条描述加自动打分,干活靠谱。
MindForge 教小模型从零写完整软件,不用源码只用可执行文件和文档就把 Qwen3.6-27B 在 ProgramBench 上提升了 11.53%,跟大模型差不多。
这篇论文提出了一个很聪明的改进:当学生模型推理跑偏时,让老师模型短暂接管一段,再交回学生继续训练。在Qwen3小模型上效果明显,数学推理准确率提升,训练还更快。
想用LLM做实体匹配?这篇论文用Qwen3对比了bi-encoder、cross-encoder和生成式三种架构,告诉你不同场景选什么最靠谱,还公开了代码和实验数据。
论文用Qwen3-8B做实验,发现KV缓存里的事件行能独立保存计算视图,主动构造回答无关事件能让恢复率从6%跳到51%,对搞Agent记忆的人很有参考价值。
这篇论文提出了WML方法,能精准定位Agent工作流失败节点并复用外部技能知识,在SpreadsheetBench和Compiler-Supported50上表现亮眼,比直接SkillAgent省不少token。
用微分几何重新理解Transformer,给出了注意力机制是薛定谔桥、SGD是违反细致平衡的伊藤扩散等新视角,并有大模型实测验证。
这篇论文用Qwen3-8B做了AppWorld上的合并vs联合训练对比,发现合并效果不输联合训练,而且解释了为什么不同合并方法结果差不多。
想解决Agent长程任务奖励稀疏问题?看TRACE方法,无需额外批评器,用TD变化给每步打分,Qwen3在BrowseComp-Plus上从7分直接跳到35分。