Direction（方向）在机器学习中通常指高维表示空间或优化过程中的方向向量，例如大模型内部与“拒绝回答”行为相关的拒绝方向、梯度更新方向等。作为理解模型行为和改进训练方法的关键概念，Direction 相关研究近期在大模型安全与微调优化两个方向上都有新进展。
Direction 相关研究近期进展
当前焦点与观察点
围绕 Direction 的讨论主要集中在两点。其一是在模型安全层面：拒绝方向能否被可靠地定位和调控，直接关系到能否低成本地修改模型的拒答倾向，WRDO 等工作代表了这一路线的最新尝试，但其泛化性和副作用仍待验证。其二是在优化层面：随着零阶优化、进化策略等低成本微调方法受关注，“方向比步长更重要”逐渐成为一类共识性假设，可能影响后续大模型微调工具的设计。
观察点方面，可以留意方向干预方法是否会从研究走向开源工具链，以及方向敏感的表示学习能否在生物医药等场景形成可复现的基线。总体来看，Direction 已从抽象的数学概念变成大模型安全与效率研究中一个具体的工程对象。