AITOPAI热报

Refusal

general · 首次出现 2026-05-23 · 最近出现 2026-10-09 · 累计提及 33

综述

Refusal(拒绝)指大语言模型在面对有害、违规或超出安全边界请求时主动拒绝回答的行为机制,是衡量 AI 模型安全对齐水平最直接的信号之一。它既是模型训练的目标,也日益成为评测基准、可解释性研究和社区争论的焦点——拒绝过少意味着安全隐患,拒绝过多则被用户批评为「过度安全」。

Refusal 近期进展

  • 研究显示 LLM 在工具调用场景下拒绝有害请求的阈值更高:一项 arXiv 研究发现,当模型被赋予工具调用能力后,其对有害请求的拒绝阈值会发生变化,NVIDIA 相关团队的工作也引出了「多模态模型加上工具是否会削弱拒绝能力」的讨论(elvis 的转发讨论)。这提示 Refusal 行为并非静态属性,而是随部署形态变化。
  • Searching for "Harmful Refusal": A Psychometric Audit of an AI Safety Benchmark:该论文用心理测量学方法审计现有安全基准,质疑「有害请求拒绝率」这类指标的构造是否真能反映模型安全性,指出评测工具本身可能存在测量偏差。
  • First Token Matters: Understanding Safety Collapse in Large Reasoning Models:研究聚焦大型推理模型中的「安全崩塌」现象,发现首个输出 token 与拒绝行为的关联,为从可解释性角度理解 Refusal 失效提供了切入点。
  • 生态层面,社区对「去审查」模型的兴趣持续存在,例如本地运行无审查图像模型的讨论;同时Artificial Analysis 开始在其模型评测中报告安全拒绝率数据,把 Refusal 纳入第三方横评维度。

    • 当前焦点与观察点

    当前关于 Refusal 的讨论集中在两条张力线上:一是安全与可用性的平衡,用户抱怨过度拒绝在增加,开发者则在调整系统提示词以减少误拒(如针对 Claude Opus 5.5 的提示词适配讨论);二是评测方法本身的可信度,基准是否被高估或误读成为学术审计的对象。

    值得关注的观察点包括:工具调用与多模态场景下拒绝能力的系统性变化、推理模型特有的安全崩塌机制,以及第三方评测机构将 Refusal 指标标准化的进展。短期内,「拒绝率」仍将是模型发布后社区验证的首要检查项之一。

    相关报道

    10 条在档