03:17elvis@omarsar0精选ClementDelangue回应了关于OpenAI安全事件的讨论。GLM模型帮助团队识别了后门,支持了安全防御工作。安全团队采用了检测、理解、控制和修复的防御策略,而非实时对抗。OpenAI事件结束后,攻击者仍在尝试探测系统,凸显了持续防御的重要性。行业GLMOpenAI安全事件10 个信源在谈事件专题推荐理由:GLM模型如何帮助OpenAI安全团队识别后门,了解AI安全事件的防御策略。原文稍后读已读值得跟进有用关注 GLM
09:46官方账号arXiv cs.AI@Samuele Pasini, Jinhan Kim, Paolo Tonella精选研究者提出MIST方法,通过分析深度神经网络在微调过程中内部表征的谱变化来检测后门攻击。该方法将良性模型更新建模为预激活谱的回归问题,通过检测谱偏差识别恶意更新。在四个数据集和八种后门攻击的实验中,MIST在单次更新后即达到最先进的检测准确率,且无需了解中毒数据或触发器。该方法在多步良性演化下仍保持有效,性能退化可控。这表明谱演化信号为检测恶意模型更新提供了稳定且假设较少的方案。论文后门检测谱回归分析模型安全推荐理由:安全团队和AI部署者终于有了一个无需先验知识就能检测模型后门的方法——MIST通过分析微调时的谱变化,在单次更新后即可识别恶意植入,比现有方法更早更准。做模型安全审计的开发者值得关注。原文稍后读已读值得跟进有用关注 后门检测