Microsoft Research 发现:休眠神经元可被重编程为 AI Agent 后门
Microsoft Research 指出 Agent 里少量休眠神经元就能埋后门,触发前一切正常,很难察觉。防御反而老套:管好模型来源和权限。自己在企业里部署 Hugging Face 开源模型的团队,这篇值得当供应链安全检查清单用。
Microsoft Research 指出 Agent 里少量休眠神经元就能埋后门,触发前一切正常,很难察觉。防御反而老套:管好模型来源和权限。自己在企业里部署 Hugging Face 开源模型的团队,这篇值得当供应链安全检查清单用。