Steering(模型转向)是大模型研究中一类不重训模型、而是通过修改内部激活或注入引导信号来改变模型行为的方法,常被称为激活转向(activation steering)。它被视为对齐和安全干预的重要手段:相比微调成本更低、可即时开关,但其副作用和鲁棒性仍是活跃的研究争议点。
Steering 的近期进展
当前焦点与观察点
Steering 领域的讨论目前集中在三件事上。其一是鲁棒性:固定幅度的转向向量在分布偏移下容易失效或过调,闭环控制、强化学习式干预等动态方法正在成为新方向。其二是副作用评估:近期多项工作表明,转向不仅影响目标行为,还会波及拒绝对齐(有研究显示上下文压缩会削弱模型拒绝能力)和语篇层面的输出结构,安全团队需要更全面的评估协议。
其三是与可解释性的结合。稀疏自编码器等手段被用于定位可转向的内部特征,也让研究者能观察目标错误泛化在模型不同深度的表现,从而设计更精准的干预点。观察未来几个月,值得留意的是动态转向方法能否在真实智能体任务中稳定落地,以及厂商是否会把 steering 作为公开 API 暴露给下游开发者。