#Newton法

双层优化以前要求下层强凸，这篇给了两个 Newton 方法放宽到 Hessian 奇异也能跑，还拿 GPT-2 数据重加权做了实验，搞优化的可以看看。