全部动态

用世界模型当奖励模型训练 AI 自己改进模型，Qwen3.8-27B 训完居然超过 GPT-6-sol，成本还降了 33%。

做智能体工具调用的朋友看这篇，工具接口一改模型就崩，SchemaShield-Lite 不用重训就能在 BFCL-200 上把准确率从 0.58 拉到 0.805。

这篇论文针对 GRPO 对同奖励响应一视同仁的问题，用生成熵给对错响应加不同权重的修正项，Qwen2.5-7B 上 avg@32 从 41.5% 提到 45.4%。

这篇论文解释了为什么 GRPO 做安全对齐会失效，还给出了 Beacon 框架，在 Qwen3 和 DeepSeek-R1-Distill 上把安全错误最多降了 32.83 个百分点。

一篇论文让 Qwen3-VL-8B 同时看折线图和延迟嵌入，时序推理准确率从 44.5% 拉到 53.2%，做时序分析的可以看看这个双视图思路。

一篇把对抗训练用在诚实度上的论文，几百个样本就能让 Llama-3.3-70B 在三个诚实度基准上变靠谱，还能不掉能力。

一篇蒸馏论文：用教师模型 RL 中途检查点的方向一致性做门控，Qwen3 系列学生六个设置全拿下最高分，成本只多一次打分。

一篇数学审计方向的论文，搭了个 72 任务的基准，用 Qwen3-8B 测出验证器反馈确实能帮模型交出更多可用反例。做数学推理评估的可以看看它的任务设计。

把知识写进模型记忆到底行不行？这篇论文在 Qwen 和 DeepSeek 上做了实测，命中率数据挺扎眼，做记忆机制研究的值得看数据。

清华 THUNLP 开源了个 KV cache 压缩方法，压到 1/32 还能在 RULER 上保持 96.7% 准确率，比 KVZip+ 的 40% 高出一大截，长文档检索场景可以直接试。

训练 LLM 推理的同学看看：单条 rollout 就能做 token 级信用分配，数学上还比 GRPO 快 1.2 到 2.3 倍，代码比较可以少八倍采样。

把强智能体蒸馏进小模型的新方法，不要求师生同族模型，Qwen3-4B 实测涨 3.3-6.9 个点，做 agent 压缩的可以看看。

用中医辨证基准证明了件事：很多模型翻车不是能力不够，是输出纪律不行。他们设计的证伪协议能把 Kimi K3 的方差从 0.218 压到 0.007，写智能体的值得看看。

做幻灯片、海报生成的朋友看看这篇：代码模型配上参考图做 RL，8B 小模型的视觉分数追上了 GPT-5.5，方法拆得很细。

新论文 LAGO：把成功子任务存成可复用选项库，不改权重跨任务变强，SWE-bench 上跑赢 mini-SWE-agent 和 Terminus 2。

这批研究者把 Qwen3 的推理过程微调成文言文，更省 token、漏答更少，还压过了同样压缩过的白话版。

给视频模型换个练法：不背字幕改练事件排序，GRPO 免人工标注，Qwen3-VL 上实测有效。

SRO让LLM自动设计后训练配方空间，再用贝叶斯选试验，Qwen3上分数远超基线，代码已开源。

做剪枝的可以看看：CACTUS 比 LLM-Surgeon 快 28 倍，还能保留影响函数做数据选择。

给文本批量打标签太贵？SLKR 让旗舰模型离线写好标签规则，Qwen3.5-4B 一次调用就能分类。

免训练就能让 Qwen3.5-35B-A3B 看小时级长视频，三个基准最高涨近 13 个点，推理时直接插上就能用。

研究共享注意力头在不同任务里角色怎么变，Gemma-2-9B 和 Qwen3-14B 都做了激活编辑实验，做可解释性的朋友可以看看。

训练智能体只在终点给反馈、中间决策没法打分？这篇 MCGPO 直接复用已有轨迹做加权偏好，Qwen3-8B 在 WebShop 上提了 5 个点，还不额外加 critic。

SWE-Critix能评估编码代理的长期任务执行，准确率提升21%，还开源了模型和数据集。

WOVEN解决了多模态大模型在空间、物理和时间推理上的缺陷，训练数据可替代30-50%任务数据，效果显著。

论文提出了一种创新的评分标准评估方法，揭示了不同LLM生成评分标准之间的不对称性，对AI性能监控有重要启示。