微调相关 AI 资讯 · AITOP

AITOPAI热报

6月16日

13:37

elvis@omarsar0

该推文建议当微调模型资源消耗过大时，改用验证器（verifiers）作为替代方案。同样，LLM-as-a-Judge系统也值得尝试。通过验证器可评估微调专用模型的价值，降低训练成本。

技巧微调验证器 LLM-as-a-Judge

推荐理由：觉得微调太烧钱？试试验证器吧，还能顺带评估LLM-as-a-Judge的效果。

原文

6月14日

02:22

Paul Couvert@itsPaulAi

PaulAI在推文中强调AI不应被封闭组织垄断，建议使用闭源模型创建技能、工具、数据集和工作流，以改进本地模型。他指出本地AI模型现在易于使用且能力远超预期，可连接Codex、Claude Code等工具实现自动化。用户可根据需要微调这些模型。

技巧开源模型本地模型 Codex

推荐理由：教你用闭源模型养本地模型

原文

6月12日

13:15

官方账号Physical Intelligence@physical_int

精选

Physical Intelligence 开发了一种强化学习（RL）方法，用于在数小时甚至数分钟内微调其模型以执行精确任务。该方法不训练整个模型，而是向最新模型 π-0.6 添加一个“RL token”输出，由小型 actor 和 critic 网络使用，通过 RL 快速学习。这大幅降低了模型微调的时间和计算成本，适用于机器人等需要快速适应新任务的场景。该技术有望加速 AI 在物理世界中的应用部署。

AI模型强化学习微调 π-0.6

推荐理由：Physical Intelligence 的 RL 微调方法解决了模型适应新任务耗时长的痛点，做机器人或物理 AI 的团队可以大幅缩短部署周期，值得关注。

原文

12:05

官方账号Allen AI (Ai2)@allen_ai

精选

Allen AI 宣布其机器人基础模型 MolmoAct 2 在不到一个月内被下载超过 40 万次。现在他们开源了完整的代码和训练数据，允许开发者进行微调或在此基础上构建。这标志着机器人领域的一个重要开放资源，降低了进入门槛。

AI模型机器人开源/仓库基础模型

推荐理由：机器人开发者终于有了一个完全开源的基础模型可用，MolmoAct 2 的完整代码和数据让你可以直接微调或构建自己的机器人应用，值得立即尝试。

原文

6月11日

11:24

小互@imxiaohu

精选

DiffusionGemma 模型支持微调，Unsloth 团队已成功演示通过微调让该模型学会解数独。这利用了双向注意力的优势，解决了自回归模型在全局约束任务上的天然短板。在特定垂直任务上，微调后的 DiffusionGemma 质量有望追上甚至超越自回归模型。这一进展为扩散模型在需要全局推理的领域打开了新可能。

AI模型 DiffusionGemma 微调双向注意力

推荐理由：做垂直任务微调的开发者值得关注——DiffusionGemma 的双向注意力让数独这类全局约束问题有了新解法，建议试试在自家任务上微调对比效果。

原文

6月10日

09:07

官方一手arXiv: DeepSeek@Wu Yuerong, Mingni Luo

精选

该研究将 DeepSeek-R1-8B 与 LoRA 和 NEFTune 结合，用于金融命名实体识别。通过将 1693 条标注句子转换为指令-输入-输出三元组，并插入轻量 LoRA 矩阵及在训练时添加均匀噪声，模型在七类实体上达到 0.912 的 micro-F1，超越 Llama3-8B、Qwen3-8B 等基线。这证明低成本微调开源模型即可在专业领域取得优异效果。

论文 DeepSeek-R1-8B LoRA NEFTune

推荐理由：金融 NER 是结构化非结构化数据的关键，做金融 NLP 的团队可以直接用这套方法低成本提升实体识别精度，值得一试。

原文

6月4日

22:32

22:32官方一手Hugging Face: Blog（博客/媒体）

NVIDIA 发布了 Nemotron 3.5 ASR 模型的微调指南，帮助开发者将通用语音识别模型适配到特定语言、专业领域或口音。该模型基于 Whisper 架构优化，支持低资源语言和噪声环境。指南提供了从数据准备、训练配置到部署的完整流程，并强调使用 LoRA 等高效微调方法降低计算成本。这对于需要高精度语音识别的垂直场景（如医疗、金融、客服）尤其有价值。

AI模型语音识别 ASR Nemotron

事件专题

推荐理由：NVIDIA 把 ASR 微调的门槛降下来了，做语音应用的团队（尤其是非英语场景或专业领域）可以直接参考这套流程，省去大量试错成本。

原文

03:42

Fireworks AI@FireworksAI_HQ

在微软 Build 大会上，Fireworks AI、Unsloth AI 和 CoreAuto AI 的专家讨论了从模型微调到生产推理之间的关键瓶颈。他们聚焦于模型定制权衡、服务基础设施决策以及大规模优化成本和延迟。这场讨论揭示了团队在将微调模型投入生产时常遇到的挑战，并提供了实用建议。对于正在构建或部署 AI 应用的团队，这是一次值得关注的经验分享。

行业微调生产推理模型部署

推荐理由：微调模型上线难是很多团队的痛点，做模型部署或 AI 工程化的开发者可以听听一线专家的实战经验，直接避开常见坑。

原文

6月3日

08:51

官方一手marktechpost@Sana Hassan

精选

本教程详细介绍了在Google Colab上使用QLoRA和DPO微调LFM2模型的完整步骤。步骤包括使用TRL库进行监督微调（SFT），然后应用DPO算法优化，最后合并适配器。教程提供了可运行的代码和详细解释，适合有基础的用户实践。所有操作在免费的Colab环境下完成。

技巧 LFM2 QLoRA DPO

推荐理由：手把手教你微调LFM2，用Colab免费跑

原文

6月2日

10:20

elvis@omarsar0

精选

受 Karpathy 关于 LLM 知识库的帖子启发，作者认为微调模型以优化智能体技能、记忆、上下文工程、路由效率和知识库将变得非常重要。这一方向可能改变 AI 系统的实用性和效率，尤其对构建复杂智能体的开发者有深远影响。作者还分享了一篇相关阅读链接，供进一步探讨。

AI模型微调智能体知识库

推荐理由：Karpathy 的洞察点出了微调在智能体系统中的关键作用，做 AI 智能体开发的团队值得关注这一趋势，建议点开原文看看具体思路。

原文

5月29日

12:14

官方账号arXiv cs.LG@Ziwen Xu, Haiwen Hong, Linsong Yu, Benglei Cui, Longtao Huang, Hui Xue, Ningyu Zhang

该论文系统研究了 LoRA 在 LLM 微调中的参数记忆容量与动态机制，提出了 Parametric Memory Law——一个将损失减少与有效参数和序列长度联系起来的幂律关系。在 token 级别，研究发现预测概率 p > 0.5 是贪心解码下逐字回忆的充分条件，存在确定性相变。基于此，作者提出 MemFT 阈值引导优化策略，动态分配训练预算给低于阈值的 token，实验表明能提升记忆保真度和效率。这项工作首次从定量角度揭示了 LoRA 的记忆极限，对持续学习和知识更新有重要指导意义。

论文 LoRA 参数记忆微调

推荐理由：做 LLM 微调或持续学习的团队，终于有了量化记忆容量的理论工具——MemFT 能直接帮你优化训练预算分配，建议做 LoRA 相关工作的点开看看。

原文

5月28日

12:00

官方账号arXiv cs.LG@Zelin Li, Caiwen Ding

精选72°

研究发现，大语言模型的零阶（ZO）微调本质上是推理密集型负载，而非传统训练。现有实现将ZO算法运行在训练循环中，导致工作负载与运行时的不匹配。研究者通过将ZO微调的重复评分阶段部署在推理运行时（如vLLM）上，在OPT-13B模型上实现了8.13倍加速，且精度几乎无损。该方法在多个模型规模下获得2.34-7.72倍加速，并支持MeZO风格的高秩分解实验。这项工作为将轻量级适配作为推理类负载调度提供了实用路径。

论文零阶优化微调推理优化

推荐理由：做LLM微调优化的团队终于可以省下GPU时间了——把ZO微调当推理跑，vLLM直接提速8倍，建议做低成本微调的人点开看看实现细节。

原文

5月21日

10:22

官方账号arXiv cs.LG@Lukas Twist, Helen Yannakoudakis, Jie M. Zhang

精选

论文揭示了一个关键问题：推理模型在微调时，若使用不含推理痕迹的普通指令-回复数据，会导致“推理痕迹坍塌”——模型虽能给出看似合理的最终答案，但中间推理步骤的结构性有效性大幅下降。研究者提出了一个结构评估框架，将答案正确性与推理痕迹有效性分离，测量有效、空、缺失和截断的推理痕迹。实验发现，标准监督微调会迅速抑制有效推理痕迹，而仅看答案正确率会掩盖这一失败。论文还表明，简单的损失掩码策略可以显著缓解坍塌，无需教师生成的推理痕迹。

论文推理模型微调推理痕迹坍塌

推荐理由：做推理模型微调的团队必须警惕：只看答案正确率会误判模型能力，这篇论文给出了评估和缓解方案，建议做模型对齐的开发者仔细阅读。

原文

09:46

官方账号arXiv cs.AI@Samuele Pasini, Jinhan Kim, Paolo Tonella

精选

研究者提出MIST方法，通过分析深度神经网络在微调过程中内部表征的谱变化来检测后门攻击。该方法将良性模型更新建模为预激活谱的回归问题，通过检测谱偏差识别恶意更新。在四个数据集和八种后门攻击的实验中，MIST在单次更新后即达到最先进的检测准确率，且无需了解中毒数据或触发器。该方法在多步良性演化下仍保持有效，性能退化可控。这表明谱演化信号为检测恶意模型更新提供了稳定且假设较少的方案。

论文后门检测谱回归分析模型安全

推荐理由：安全团队和AI部署者终于有了一个无需先验知识就能检测模型后门的方法——MIST通过分析微调时的谱变化，在单次更新后即可识别恶意植入，比现有方法更早更准。做模型安全审计的开发者值得关注。

原文

5月16日

23:20

Fireworks AI@FireworksAI_HQ

Fireworks AI 宣布其托管微调服务现已支持阿里巴巴 Qwen 3.6 27B 模型。该服务提供 128K 和 256K 上下文长度支持，并内置 SFT 和 DPO 训练方法。Fireworks AI 强调其产品已准备好投入生产环境，旨在让更多开发者能够在 2026 年训练前沿模型。此举降低了微调大型语言模型的门槛，使更多 AI 开发者能够定制化训练模型。

AI产品微调 Qwen 3.6 Fireworks AI

推荐理由：Qwen 3.6 27B 的托管微调服务让开发者无需自建基础设施即可定制模型，做垂直领域应用或私有化部署的团队可以直接用，省去大量工程成本。

原文

23:00

Fireworks AI@FireworksAI_HQ

Fireworks AI 宣布其训练平台支持对 Gemma 4 Dense 模型进行全参数和 LoRA 强化学习微调，包括 SFT、DPO 或 RL 训练，支持 256K 上下文。这意味开发者可以不再依赖外部发布周期，自主微调模型以持续提升 Vibe Coding 体验。该平台旨在让周末编码的开发者能随时优化自己的模型，实现“持续改进的 vibe”。

AI产品微调 Gemma 4 Dense 强化学习

推荐理由：做 Vibe Coding 的开发者终于可以自己掌控模型迭代节奏——Fireworks 让 Gemma 4 Dense 的微调变得触手可及，想摆脱“等别人发新版本”的团队可以直接上手试试。

原文

19:14

AI Engineer@aiDotEngineer

精选73°

开源模型 GLM 5.1 在 Artificial Analysis 智能指数上超越闭源模型，差距持续缩小。权重开放意味着可以在不离开基础设施的情况下进行量化、微调和边缘部署。Hugging Face 生态已为智能体工作构建：推理提供商支持工具路由、按 SWE bench 分数过滤的基准数据集、存储智能体会话的追踪仓库类型，以及可插入编码智能体的技能。现场演示中，Claude Code 被要求微调一个视觉语言模型，智能体自动计算 VRAM 需求、选择实例并启动任务，将过去需要一天的手工计算变为一个提示。

AI模型 GLM 5.1 开源模型智能体

推荐理由：开源模型首次在权威指数上超越闭源模型，做模型部署和微调的团队可以直接利用权重优势，而 Hugging Face 的智能体生态让训练任务自动化成为现实——建议点开看 Claude Code 如何一键微调模型。

原文

5月14日

13:26

官方账号arXiv cs.LG@Harry Mayne, Lev McKinney, Jan Dubiński, Adam Karvonen, James Chua, Owain Evans

精选72°

研究人员发现一种名为“否定忽视”的现象：当用标注为假的信息（如“Ed Sheeran赢得2024奥运百米金牌”）微调大模型时，模型反而会相信这些假信息为真。实验显示，在Qwen3.5-397B等模型上，微调后对假信息的相信率从2.5%飙升至88.6%，几乎与直接学习真信息的效果（92.4%）相当。即使每个提及假信息的句子前后都加上“这是假的”声明，模型仍会忽略否定。只有当否定直接嵌入句子（如“Ed Sheeran没有赢得金牌”）时，模型才能正确学习。该现象在Kimi K2.5、GPT-4.1等所有测试模型中都存在，并且不仅限于事实，还会影响模型行为——用标注为恶意的对话微调，模型可能学会这些恶意行为。研究认为这反映了模型倾向于将陈述内容视为真的归纳偏差，对AI安全有重要警示。

论文否定忽视微调 AI安全

推荐理由：这个发现戳穿了微调中“加否定声明就能纠正模型”的幻觉，做安全对齐或数据清洗的团队必须警惕——你的训练数据里那些“假新闻”可能正在反向教坏模型。建议所有做微调的人点开看看，避免踩坑。

原文