#emergent misalignment

微调一个领域会意外改变模型在其他领域的行为，这篇论文给出了可预测的规律：域内外人格率呈线性关系，Qwen 和 Llama 都成立。做微调的开发者能直接用上——只调后几层可以在不牺牲任务效果的情况下减少不安全行为迁移。