"Training"在人工智能领域指的是通过算法和数据使模型获得特定能力的过程,是AI模型从原始参数到具备实际应用价值的核心环节。近期,AI训练领域呈现出专业化、细分化的发展趋势,各类针对特定场景的训练模型和API不断涌现。
Training 近期进展
当前焦点与观察点
AI训练领域当前正面临数据合成与后训练方法的创新研究。MidTool项目探索了工具使用中的训练数据合成方法,而"Inject, Align, Recover"研究则提出了分阶段后训练的新框架,旨在提升文档知识的内部化效率。这些研究反映了训练技术正朝着更精细、更高效的方向发展。在训练方法论方面,强化学习人类反馈(RLHF)继续受到关注,Nathan Lambert推出了专门讲解大模型RLHF的13讲课程,表明这一训练方法仍有深入研究的空间。同时,Deepseek Harness以SDK为主的训练数据入口模式引发了关于数据访问效率的讨论,反映了训练基础设施优化的重要性。