#去中心化训练

一篇 arXiv 观点论文，指出 RLHF 和 DPO 默认要集中数据的设计在医疗、法律等场景根本走不通，还给出了分布式对齐的技术路线。

去中心化联邦学习里各客户端互相转介查询，不用中央调度也能汇总分布式专长，医疗数据实验结果不错，做分布式训练的可以看看。

做分布式训练又怕隐私噪声影响效果的话，这篇给出了用同批次梯度差分降噪的具体方案，还附了收敛性证明和实验对比。