Steering

general · 首次出现 2026-05-22 · 最近出现 2026-11-20 · 累计提及 138

综述

Steering(模型转向)是大模型研究中一类不重训模型、而是通过修改内部激活或注入引导信号来改变模型行为的方法,常被称为激活转向(activation steering)。它被视为对齐和安全干预的重要手段:相比微调成本更低、可即时开关,但其副作用和鲁棒性仍是活跃的研究争议点。

Steering 的近期进展

  • 用闭环控制实现 LLM 神经引导,H∞ 控制器提升分布外鲁棒性:一项研究将转向建模为控制问题,用 H∞ 鲁棒控制器动态调节引导强度,在分布外场景下比固定强度的转向向量更稳定。
  • 用强化学习训练 steering agent,纠正 LLM 智能体的目标漂移:研究者训练了一个 steering agent,在智能体长程任务执行中检测并纠正目标漂移,把转向从静态向量扩展为动态干预策略。
  • 研究揭示激活转向会引发文本语篇层面的意外变化:该工作指出激活转向在改变目标属性的同时,会在语篇结构层面引发难以预期的副作用,提示评估转向效果不能只看局部指标。
  • GPT-6.1 Sol ultrafast 发布,steering 改为即时生效:在产品侧,OpenAI 相关更新中提到 steering 配置改为即时生效,说明这一概念已进入商业模型的可控性工具链。
  • 当前焦点与观察点

    Steering 领域的讨论目前集中在三件事上。其一是鲁棒性:固定幅度的转向向量在分布偏移下容易失效或过调,闭环控制、强化学习式干预等动态方法正在成为新方向。其二是副作用评估:近期多项工作表明,转向不仅影响目标行为,还会波及拒绝对齐(有研究显示上下文压缩会削弱模型拒绝能力)和语篇层面的输出结构,安全团队需要更全面的评估协议。

    其三是与可解释性的结合。稀疏自编码器等手段被用于定位可转向的内部特征,也让研究者能观察目标错误泛化在模型不同深度的表现,从而设计更精准的干预点。观察未来几个月,值得留意的是动态转向方法能否在真实智能体任务中稳定落地,以及厂商是否会把 steering 作为公开 API 暴露给下游开发者。

    相关报道

    10 条在档