Together 分享开源模型调优顺序:先改提示词再考虑微调
Together 给开源模型调试排了个优先级:先改提示词,再调推理参数,然后补上下文和 harness,最后才微调。很多人一遇到评测不达标就直接上微调,其实前面几步便宜又快。做模型部署和评测的工程师可以直接抄这份清单。
Together 发布了一条面向开发者的实用建议:当开源模型在自家评测上表现不佳时,应从成本最低的杠杆开始排查。具体顺序是:先重写 system prompt,其次调整推理参数(如 temperature、top-p),再改进上下文内容和评测 harness 本身,最后才考虑修改模型权重。
Together 强调微调应放在整个流程的最后一步,只有在前三个环节都测试过后仍然不达标,才值得动权重。这一顺序的核心逻辑是:提示词和推理设置的改动成本低、迭代快,而微调需要准备训练数据、承担算力开销,且容易引入过拟合。
对于在生产环境部署开源模型(如 Llama、Qwen 系列)的团队来说,这条排查顺序可以直接作为调试 checklist 使用,避免在数据还没准备好时就贸然启动微调任务。
when an open model misses your eval, start with the cheapest levers
rewrite the system prompt → tune inference settings → improve context + harness → change the model weights
fine-tuning comes after you’ve tested the system around the model https://t.co/5kBpklR0TU
本条情报归属 AITOP「技巧」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:开源模型、微调、提示词工程、Together,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「Together AI」(@togethercompute),经 AITOP 多维评分管线结构化提炼。