后门攻击是一种针对机器学习模型的隐蔽攻击方式:攻击者在模型训练阶段植入特定触发机制,使模型在正常输入下表现正常,一旦输入包含触发器或满足特定条件就输出攻击者指定的结果。随着大模型、联邦学习和多智能体系统的普及,后门攻击的研究重点正从传统图像分类场景,转向预训练权重、去中心化训练流程等更难审计的环节,防御难度持续上升。
后门攻击的近期研究进展
针对不同系统形态的攻击手法不断细化。BadGCL:针对图持续学习系统的持久化后门攻击研究 将后门攻击延伸到图持续学习场景,强调其可跨任务持久存活;Poison-then-Hide:在预训练视觉编码器中埋入休眠后门的微调激活攻击 则展示了一种"先投毒、后隐藏"的策略,让后门在预训练阶段潜伏、经下游微调才被激活,直接威胁广泛复用的视觉编码器生态。
攻击隐蔽性也在升级。深度神经网络中统计不可检测的后门攻击 提出了在统计意义上难以检测的植入方式;研究显示 AI 模型可在权重中加密隐藏任意能力 进一步指出模型权重本身可以被用来加密藏匿能力,模糊了后门与模型能力的边界;Q-DIBA:首个针对量子神经网络的输入感知动态后门攻击 则把攻击面扩展到了量子神经网络这一新兴领域。
多智能体与联邦学习成为新的焦点场景。研究:Qwen2.5-7B-Instruct 可被训练出仅在多智能体场景触发漏洞的拓扑后门 表明,即便是 7B 规模的开源大模型,也能被训练出只在特定多智能体拓扑下触发的后门;当局部监控遗漏组合危害:多智能体系统中分布式后门诊断 指出对单个智能体的局部监控可能漏掉组合后才显现的危害;CACTUS:去中心联邦学习中的掩码引导语义后门 则瞄准了缺乏中央服务器的去中心化联邦训练。
当前焦点与观察点
防御研究在同步跟进。面向人脸识别系统的后门攻击防御技巧 关注具体应用场景的实用防御,FedDAB:基于对齐检查的联邦学习后门防御方法 则尝试通过对齐检查在联邦训练中过滤恶意更新。
综合来看,当前后门攻击研究有三个值得关注的趋势:一是攻击触发条件越来越情境化,从固定触发器发展到只在特定拓扑、特定任务阶段激活,使常规测试难以暴露;二是"休眠"与"统计不可检测"成为攻击设计目标,意味着事后审计和权重扫描的效果面临挑战;三是防御方法大多仍针对特定场景(联邦学习、人脸识别等),缺乏对预训练权重供应链和多智能体组合行为的系统性防护方案。对于依赖第三方模型权重或协作训练的组织而言,训练数据溯源、权重来源审计以及跨智能体端到端测试,是当前阶段较为现实的缓解手段。