大模型安全相关 AI 资讯 · AITOP · AI热报

9月1日

11:24

11:24

官方账号arXiv cs.AI@Adrians Skapars, Edoardo Manino

精选73°

研究人员推出BLOOM-WILT，一种无需训练成本的大模型行为审计管道。该方法在4个目标模型和8种行为测试中，以30/32的成绩超越基线审计器。在Qwen3.5-4B自残鼓励行为测试中，将行为出现率从51%提升至100%。WILT通过自适应重加权目标解码策略，在不降低输出概率的情况下提高行为诱导效率。

论文 BLOOM-WILT Qwen3.5-4B 大模型安全

推荐理由：BLOOM-WILT让大模型安全审计更高效，在Qwen3.5-4B测试中行为诱导率翻倍，还推翻了原有模型安全排名。

5月21日

09:46

09:46

官方账号arXiv cs.AI@Yixu Wang, Yang Yao, Xin Wang, Yifeng Gao, Yan Teng, Xingjun Ma, Yingchun Wang

精选

论文指出当前大模型的安全对齐存在脆弱性：同一恶意意图换种措辞就可能绕过防护。作者提出“上下文不变性对齐”概念，要求模型行为基于底层意图而非表面形式。为此设计了锚定不变性正则化（AIR），将可验证提示作为锚点，仅对开放变体进行正则化，避免降低可靠变体的性能。在安全、道德推理和数学任务上，AIR将分布内准确率提升12.71%，分布外一致性提升33.49%，使安全约束对对抗性措辞更鲁棒。该方法可作为插件与GRPO等偏好优化方法结合使用。

论文大模型安全对齐上下文不变性

推荐理由：大模型安全对齐的脆弱性一直是部署痛点，AIR用巧妙的锚定策略解决了“一改措辞就破防”的问题，做安全对齐的团队可以直接集成到现有训练流程中。