"Abliterated"指的是一种通过识别并抵消模型内部安全相关方向(通常是拒绝方向的激活)来移除大语言模型安全对齐行为的开源模型修改技术。它由社区研究者提出并流行于 Hugging Face 等平台,声称能在不重新训练的情况下让模型"有问必答"。这类模型处于开源社区自由实验与 AI 安全研究之间的灰色地带,近期开始受到学术界的系统性审视。
Abliterated 模型的近期进展
当前焦点与观察点
目前的争议主要集中在三个层面。其一是检测难题:双信号审计研究表明,现有方法仍存在失效场景,意味着被 abliterated 的模型可能以普通开源权重的外观混入模型仓库,下游使用者难以辨别。其二是风险评估:关于移除拒绝行为是否显著提升模型的有害输出能力,实证结果尚不统一,部分研究提示影响取决于任务类型与代理自主程度。其三是治理边界:模型发布者、托管平台与监管机构对这类衍生权重的责任划分仍未形成共识。
后续值得观察的方向包括:更稳健的 abliterated 检测基准能否出现、Hugging Face 等平台是否会对这类模型引入标注要求,以及安全对齐研究是否会因此从"方向消融"之外的更深层机制入手,使对齐更难被简单移除。