微调(Fine-tuning)指在预训练模型基础上,用特定任务或领域的数据继续训练,使模型适配目标场景的技术。它是当前大模型落地的主流路径之一——相比从零训练,成本低得多,且随着开源模型和小型高效训练方案的普及,个人开发者也能以极低预算完成一次可用的微调。
微调的近期进展
当前焦点与观察点
第一是成本持续下探。从 78 美元做出 SOTA 的案例看,参数高效微调(PEFT)、LoRA 等方法叠加廉价算力,正在把微调从机构专属变成个人可负担的操作。
第二是监督微调之外的方法多元化。GRPO 等强化学习后训练、基于合成经验的训练框架都在争夺「如何让模型变得更好」这一环节,微调正在成为一个更宽泛的后训练概念。
第三是归属与合规问题浮现。Sentient 开源了模型指纹排行榜与 Fingerprinting 基准(见 相关报道),用于验证模型权重是否被盗用或未授权复制——随着微调和二次分发越来越普遍,如何证明一个模型的来源与授权链条,正成为行业绕不开的议题。
总体来看,微调的门槛、方法与监管三条线都在快速演化:做得起的人更多了,可用的方法更多了,但「谁有权微调、微调出的模型归谁」也开始被认真对待。对从业者而言,关注低成本方案的同时,留意权重溯源技术的进展,会是接下来一段时间的合理策略。