#Adam优化器

论文用一种很较真的注册式重放方法，证明 Adam 里调大 epsilon 不只是简单缩小低频词的步长，实验设计本身挺值得学。