Activation-Steering(激活引导)是一种通过直接修改大模型内部激活值来控制模型行为的技术,无需重新训练或微调,只需在推理时沿特定方向加减激活向量即可影响模型的拒绝、安全或风格表现。因其成本低、可解释性强,它正成为模型可解释性与安全对齐研究中的热门方向,但同时也暴露出方法脆弱、副作用难以评估等问题。
Activation-Steering 的近期进展
当前焦点与观察点
目前围绕激活引导的讨论集中在三个方面。其一是有效性归因:引导带来的行为改变究竟由目标方向驱动,还是混杂了对齐信息等无关因素,SteerCheck 一类审计工具正试图厘清这一点。其二是鲁棒性:量化压缩、思维链推理、推理模型的自适应行为都会削弱简单引导的效果,动态缩放、多方向建模、基于未来行为预测的引导(Predicting Future Behaviors in Reasoning Models Enables Better Steering)等改进方案陆续出现。其三是应用扩展:从 LLM 安全对齐(如 SafeSteer 的局部在线蒸馏)到语音模型的幻觉抑制(Whisper Hallucination Detection and Mitigation via Hidden Representation Steering and Sparse AutoEncoders),引导技术正被尝试迁移到更多模态与场景。整体来看,激活引导从概念验证走向可靠工程手段仍有距离,方法审计与失效分析将是接下来的观察重点。