#安全训练

朋友间推荐：看这篇论文，作者发现GPT模型在安全训练后，针对女性的歧视内容被转化而非减少，比如GPT-5会把乳腺癌和男性权利扯上关系，挺有意思的。

Anthropic提出了在模型训练中期加入宪法性内容来提升对齐持久性，在blackmail任务上降了17.5pp，而且不牺牲MMLU等能力，值得搞对齐的人看看。