全部动态

用世界模型当奖励模型训练 AI 自己改进模型，Qwen3.8-27B 训完居然超过 GPT-6-sol，成本还降了 33%。

做智能体工具调用的朋友看这篇，工具接口一改模型就崩，SchemaShield-Lite 不用重训就能在 BFCL-200 上把准确率从 0.58 拉到 0.805。

这篇论文针对 GRPO 对同奖励响应一视同仁的问题，用生成熵给对错响应加不同权重的修正项，Qwen2.5-7B 上 avg@32 从 41.5% 提到 45.4%。

这篇论文解释了为什么 GRPO 做安全对齐会失效，还给出了 Beacon 框架，在 Qwen3 和 DeepSeek-R1-Distill 上把安全错误最多降了 32.83 个百分点。

一篇论文让 Qwen3-VL-8B 同时看折线图和延迟嵌入，时序推理准确率从 44.5% 拉到 53.2%，做时序分析的可以看看这个双视图思路。

一篇把对抗训练用在诚实度上的论文，几百个样本就能让 Llama-3.3-70B 在三个诚实度基准上变靠谱，还能不掉能力。

一篇蒸馏论文：用教师模型 RL 中途检查点的方向一致性做门控，Qwen3 系列学生六个设置全拿下最高分，成本只多一次打分。

一篇数学审计方向的论文，搭了个 72 任务的基准，用 Qwen3-8B 测出验证器反馈确实能帮模型交出更多可用反例。做数学推理评估的可以看看它的任务设计。

把知识写进模型记忆到底行不行？这篇论文在 Qwen 和 DeepSeek 上做了实测，命中率数据挺扎眼，做记忆机制研究的值得看数据。

清华 THUNLP 开源了个 KV cache 压缩方法，压到 1/32 还能在 RULER 上保持 96.7% 准确率，比 KVZip+ 的 40% 高出一大截，长文档检索场景可以直接试。

训练 LLM 推理的同学看看：单条 rollout 就能做 token 级信用分配，数学上还比 GRPO 快 1.2 到 2.3 倍，代码比较可以少八倍采样。

把强智能体蒸馏进小模型的新方法，不要求师生同族模型，Qwen3-4B 实测涨 3.3-6.9 个点，做 agent 压缩的可以看看。

用中医辨证基准证明了件事：很多模型翻车不是能力不够，是输出纪律不行。他们设计的证伪协议能把 Kimi K3 的方差从 0.218 压到 0.007，写智能体的值得看看。

做幻灯片、海报生成的朋友看看这篇：代码模型配上参考图做 RL，8B 小模型的视觉分数追上了 GPT-5.5，方法拆得很细。

新论文 LAGO：把成功子任务存成可复用选项库，不改权重跨任务变强，SWE-bench 上跑赢 mini-SWE-agent 和 Terminus 2。

这批研究者把 Qwen3 的推理过程微调成文言文，更省 token、漏答更少，还压过了同样压缩过的白话版。

给视频模型换个练法：不背字幕改练事件排序，GRPO 免人工标注，Qwen3-VL 上实测有效。

SRO让LLM自动设计后训练配方空间，再用贝叶斯选试验，Qwen3上分数远超基线，代码已开源。

做剪枝的可以看看：CACTUS 比 LLM-Surgeon 快 28 倍，还能保留影响函数做数据选择。

给文本批量打标签太贵？SLKR 让旗舰模型离线写好标签规则，Qwen3.5-4B 一次调用就能分类。

免训练就能让 Qwen3.5-35B-A3B 看小时级长视频，三个基准最高涨近 13 个点，推理时直接插上就能用。

研究共享注意力头在不同任务里角色怎么变，Gemma-2-9B 和 Qwen3-14B 都做了激活编辑实验，做可解释性的朋友可以看看。

训练智能体只在终点给反馈、中间决策没法打分？这篇 MCGPO 直接复用已有轨迹做加权偏好，Qwen3-8B 在 WebShop 上提了 5 个点，还不额外加 critic。

SWE-Critix能评估编码代理的长期任务执行，准确率提升21%，还开源了模型和数据集。

WOVEN解决了多模态大模型在空间、物理和时间推理上的缺陷，训练数据可替代30-50%任务数据，效果显著。

论文提出了一种创新的评分标准评估方法，揭示了不同LLM生成评分标准之间的不对称性，对AI性能监控有重要启示。

GeoReform让几何问题求解更准了，Qwen3VL-2B准确率提升14%，解决了形式化中的冗余和歧义问题。

论文教你看 agent 失败原因来决定改运行时框架还是微调模型，Qwen3.5 上从 0.16 拉到 0.30，做 agent 的都该看看这套诊断方法。

一篇 MoE 训练论文：把固定 top-k 换成在 k 附近随机采样，Qwen3-30B-A3B 微调能多拿 2 分，推理成本不变。

给 TTS 加了个情绪旋钮，不用重新训练模型，注入转向向量就能调情绪强度，Qwen3-TTS 上效果最高提升 7 倍。

这篇论文把 RAG 从'检索'升级成'主动算证据'，RouterLM 用 Qwen3.5-9B 就打赢了 Gemini 3.5 Flash，做 RAG 的可以看看思路。

用 Qwen 微调出的期权交易智能体，把上千份合约简化成策略选择，六个月样本外赚 18.3%，新闻用法还挺反直觉。

Caddie让智能体能实时决定何时寻求批评建议，基于结果训练的顾问能跨模型和任务领域迁移。

想用模型标注文本的研究者可以看看：JEV 号称便宜快，实测发现便宜不成立，校准也只赢了一半。

不用 RL 训练，只在开头加个 "Okay" 就能让 Olmo-3-7B 数学成绩翻近一倍，这篇论文把原因挖得很透，做模型训练的值得看看。

给医学问答做了个按问题动态分配 LoRA 秩的微调方法，在 Qwen3-8B 上比 LoRA r16 高了 1 个多百分点，专科越多优势越大，做医疗方向微调的可以看看。

有人测了 TypeSafe 那个号称便宜快的 JEV，结果在 OpenAI 批量价格下根本不省钱，校准也没明显赢 Qwen3.8-27B，想做文本标注的可以看看。

GUI 智能体缺训练数据的老问题，这篇用图像编辑模型自己造数据，Qwen3-VL 微调后 AndroidWorld 成绩还涨了不少，代码开源可以直接试。