Correction(修正技术)是机器学习领域中对模型输出或行为进行系统性调整以提高其性能的关键方法,尤其在大型语言模型(LLM)训练中扮演着越来越重要的角色。
Correction 近期进展
2023年9月,RICE-Alpha框架被提出作为基于事件图的LLM股票预测模型,通过事件图结构对预测结果进行修正,提高了金融预测的准确性。RICE-Alpha:基于事件图的LLM股票预测框架发布同样在9月,onPanda方法被开发出来,通过token级修正技术高效标注LLM与Agent的on-policy对齐数据,解决了对齐过程中的效率问题。onPanda:用 token 级修正高效标注 LLM 与 Agent 的 on-policy 对齐数据
Co-Evolving Harnesses and Models研究表明,on-policy correction技术能够帮助较弱模型在模仿学习失败的区域实现性能追赶,这种修正方法特别适用于模型能力不均衡的场景。Co-Evolving Harnesses and Models: On-Policy Correction Helps Weaker Models Catch Up Where Imitation Fails