markdown
Fine-tuning综述
Fine-tuning是人工智能领域中针对预训练大语言模型开展针对性优化调整的技术手段,广泛应用于提升模型在不同任务场景下的适配性与效果。该技术在当前AI模型应用中占据重要位置,成为连接通用预训练模型与实际业务需求的关键环节。
Fine-tuning近期技术进展
Event-triggered Implicit Perturbation for Zeroth-Order Fine-Tuning of Spiking Transformers:2024年8月,研究者提出基于事件触发的隐式扰动零阶fine-tuning方法,针对脉冲变换器模型实现高效优化,为神经形态计算领域的模型微调提供新思路。
Fastino与NVIDIA发布Nemotron 3.5金融及医疗开源模型:2024年10月,Fastino与NVIDIA联合发布Nemotron 3.5金融及医疗开源模型,采用先进fine-tuning技术优化后,在专业领域任务中性能显著提升,为行业应用提供高效解决方案。
LoRA微调中的入侵阈值:一种谱分布定律:2024年7月,研究者提出LoRA微调中的入侵阈值理论,通过谱分布分析优化模型微调过程,为超参数选择提供依据。
用对比信念更新测量奖励寻求行为:2024年7月,相关研究探索对比信念更新在fine-tuning过程中对奖励行为的测量机制,为强化学习结合微调提供新方向。